论文提出 Agent Behavior Map:不跑环境即可定位智能体行为
论文AI 评分 68/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
一篇投稿 arXiv 的论文提出 Agent Behavior Map,用共享参考轨迹上的中心化动作对数似然来表示 LLM 与 harness 的组合,无需让目标智能体在新环境中实际执行。作者推导了坐标距离平方与轨迹 KL 之间的误差界,并在八个交叉评分模型上验证:这些距离与直接测得的轨迹 KL 在排序上一致。在 100 个 LLM 和四个环境中,基于 ALFWorld 的坐标可支持性能预测并识别行为相似性;在 ALFWorld 中,控制成功率与模型规模后,这种相似性仍然存在,且跨模型家族成立。作为扩展,harness 组件的位移近似可组合,精度随组件和环境不同而变化。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载不执行也能定位
论文关注的问题是:成功率相近的 LLM 智能体可能走出完全不同的动作序列,仅看结果指标难以区分它们的行为。Agent Behavior Map 的做法是把「LLM 加 harness」这一组合映射到坐标空间,坐标由模型在共享参考轨迹上的中心化动作对数似然计算得出。关键点在于,目标智能体本身不需要在新环境中执行 rollout,因此省去了逐环境跑任务的成本。作者同时给出了理论支撑:在明确假设下推导坐标距离平方与轨迹 KL 之间的误差界,并用八个交叉评分模型检验,发现距离与直接测量的轨迹 KL 在排序上吻合。
规模验证与相似性
实验覆盖 100 个 LLM 与四个环境。在 ALFWorld 上,这些坐标不仅能用于预测性能,还能找出行为上相近的模型。作者进一步检查了这种相似性是否只是成功率或模型规模的副产物:在控制这两项之后,相似性依然存在,并且跨越不同模型家族。这意味着坐标捕捉到的可能是与「做什么动作」相关的独立信息,而非单纯的能力高低。
harness 组件的可组合性
论文把方法扩展到 harness 层面:更换或调整 harness 组件带来的坐标位移近似可以相加,但这一近似的准确度会随组件类型和环境不同而波动。作者也说明了论文篇幅为 23 页,含 5 张图与 12 张表,目前处于审稿状态,归类涉及机器学习、人工智能与计算语言等方向。
为什么值得看
提供一种不依赖环境执行就能刻画智能体行为差异的坐标化方法,对智能体评测与 harness 设计有参考价值。
智能体论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
