论文提出 Agent Behavior Map:不跑环境即可定位智能体行为

论文AI 评分 68/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇投稿 arXiv 的论文提出 Agent Behavior Map,用共享参考轨迹上的中心化动作对数似然来表示 LLM 与 harness 的组合,无需让目标智能体在新环境中实际执行。作者推导了坐标距离平方与轨迹 KL 之间的误差界,并在八个交叉评分模型上验证:这些距离与直接测得的轨迹 KL 在排序上一致。在 100 个 LLM 和四个环境中,基于 ALFWorld 的坐标可支持性能预测并识别行为相似性;在 ALFWorld 中,控制成功率与模型规模后,这种相似性仍然存在,且跨模型家族成立。作为扩展,harness 组件的位移近似可组合,精度随组件和环境不同而变化。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

不执行也能定位

论文关注的问题是:成功率相近的 LLM 智能体可能走出完全不同的动作序列,仅看结果指标难以区分它们的行为。Agent Behavior Map 的做法是把「LLM 加 harness」这一组合映射到坐标空间,坐标由模型在共享参考轨迹上的中心化动作对数似然计算得出。关键点在于,目标智能体本身不需要在新环境中执行 rollout,因此省去了逐环境跑任务的成本。作者同时给出了理论支撑:在明确假设下推导坐标距离平方与轨迹 KL 之间的误差界,并用八个交叉评分模型检验,发现距离与直接测量的轨迹 KL 在排序上吻合。

规模验证与相似性

实验覆盖 100 个 LLM 与四个环境。在 ALFWorld 上,这些坐标不仅能用于预测性能,还能找出行为上相近的模型。作者进一步检查了这种相似性是否只是成功率或模型规模的副产物:在控制这两项之后,相似性依然存在,并且跨越不同模型家族。这意味着坐标捕捉到的可能是与「做什么动作」相关的独立信息,而非单纯的能力高低。

harness 组件的可组合性

论文把方法扩展到 harness 层面:更换或调整 harness 组件带来的坐标位移近似可以相加,但这一近似的准确度会随组件类型和环境不同而波动。作者也说明了论文篇幅为 23 页,含 5 张图与 12 张表,目前处于审稿状态,归类涉及机器学习、人工智能与计算语言等方向。

为什么值得看

提供一种不依赖环境执行就能刻画智能体行为差异的坐标化方法,对智能体评测与 harness 设计有参考价值。

智能体论文

信源1 家

  1. [1]arXiv cs.AI一手信源Agent Behavior Maps: Locating Agents by What They Would Do, Without Running Them

关键事实

  • 方法用共享参考轨迹上的中心化动作对数似然表示 LLM-harness 组合,不需要目标智能体做新的环境 rollout[1]

  • 作者推导了坐标距离平方与轨迹 KL 的误差界,八个交叉评分模型上距离与直接测得的轨迹 KL 排序一致[1]

  • 在 100 个 LLM 和四个环境中,ALFWorld 坐标支持性能预测并识别行为相似性[1]

  • ALFWorld 中控制成功率与模型规模后相似性仍存在,并跨模型家族成立[1]

  • harness 组件位移近似可组合,精度因组件和环境而异[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。