研究:编码智能体共装技能冲突,任务通过率掩盖核心功能丢失

论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一项针对编码智能体技能冲突的实证研究指出,技能来自团队、开发者、插件等独立来源,功能相近的技能可能被同时安装,模型仅凭名称和描述选择执行哪一个。冲突发生时,被安装技能的核心功能会丢失,例如禁止改动 git 的约束被绕过,但任务仍能通过,因此只看任务完成度的基准测试无法发现这类问题。研究从 20,947 个仓库快照中挖掘出 822,109 个候选相似技能对,由大模型评审 3,754 个分层样本,并在三个模型上运行 312 个确认对,共 6,368 次运行、169,294 次工具调用、542 个智能体小时。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

技能共装为何产生冲突

编码智能体通过技能目录扩展能力,目录中的说明文件告诉模型何时以及如何执行任务。由于技能来自彼此独立的来源,包括团队、开发者、插件和复制来的集合,一个已安装技能可能与另一个做同样工作的相似技能同时存在。模型在选择时只能依据技能的名称和描述,无法感知两者在约束上的差异。一旦发生冲突,被安装技能的核心功能可能失效,例如原本禁止触碰 git 的规则会因为相似技能被执行或被改写而失去作用。问题在于任务本身仍然能够通过,所以只检查任务完成情况的基准测试会漏掉这类失败。

实证规模与数据来源

研究以仓库快照为起点,从 20,947 个仓库中挖掘出 822,109 个候选相似技能对。随后使用大模型对 3,754 个分层样本进行评审,确认出 312 个相似技能对,并在三个模型上实际运行这些配对。运行总量为 6,368 次,期间产生 169,294 次工具调用,累计 542 个智能体小时。这一规模使结论建立在真实仓库与真实执行之上,而非仅靠静态分析。

五项主要发现

第一,容易冲突的技能很常见:近四分之一的已安装技能与执行相同工作的技能共装,37% 被评审的技能位于复制集合中。第二,这类配对多数涉及规范性技能,其次是能力型技能。第三,在不降低任务完成度的情况下,相似技能在五分之一的运行中取代了已安装技能;先打开相似技能的运行会丢失超过三分之一仅由已安装技能提供的独占核心功能。第四,安装位置决定哪个技能运行,列表顺序影响很小,最终回复仅在 0.9% 的被替换运行中说明实际使用了哪个技能。第五,冲突在首次读取技能时即被决定,几乎总是发生在任何文件被修改之前。

对评测与平台的启示

研究提出,基准测试应当对独占核心功能进行评分,而不是只看任务是否完成。平台层面则应当保护首次技能读取环节,并明确展示实际运行的是哪个技能。材料还提到,在首次读取处设置工具前钩子,可以把独占核心功能的保真度恢复到与先打开已安装技能时相同的水平。这些措施针对的是冲突发生的具体位置和可观测性缺口,而非笼统地要求减少技能数量。

为什么值得看

揭示编码智能体技能共装导致核心约束被静默绕过,任务通过率无法暴露,对技能平台与评测设计有直接参考价值。

大模型智能体基准测试

信源1 家

  1. [1]arXiv cs.AI一手信源One Skill Too Many: How Co-Installed Skills Conflict in Coding Agents

关键事实

  • 研究从 20,947 个仓库快照中挖掘出 822,109 个候选相似技能对,并由大模型评审 3,754 个分层样本。[1]

  • 在三个模型上运行 312 个确认对,共 6,368 次运行、169,294 次工具调用、542 个智能体小时。[1]

  • 近四分之一的已安装技能与执行相同工作的技能共装,37% 被评审技能位于复制集合中。[1]

  • 相似技能在不降低任务完成度的情况下,从已安装技能手中夺走五分之一的运行;先打开相似技能的运行会丢失超过三分之一仅由已安装技能履行的独占核心功能。[1]

  • 安装位置决定哪个技能运行,列表顺序影响很小,最终回复仅在 0.9% 的被替换运行中说明使用了哪个技能。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。