Harness-S:用兄弟执行框架互救失败轨迹训练通用智能体

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

论文提出 Harness-S,不再追求单一最优执行框架,而是从同一基座演化出多个修复方向不同的兄弟框架,组成固定复用的 Sibling Harness Pool。只有当基座框架下所有初始尝试都失败时,才调用该池:同一策略在选中的辅助框架下重新生成轨迹,用这些轨迹替换失败组做强化学习。框架选择由 Adaptive Harness Router 依据 Harness Behavior Profiles 与多个 LLM 投票选出 Top-k,并随策略学习刷新证据。在 AppWorld、SWE-Gym、DBBench 上,训练后的策略回到原始基座框架时明显优于仅做策略训练;复用路由器做 Rank-1 推理可在相同执行器 rollout 数下再获增益。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

从单一框架转向兄弟框架

论文的出发点是执行框架(harness)的演化特征:从同一基座分出的变体各自修补不同的失败,彼此互补,且其效用随策略学习而变化,作者将其概括为 Locality、Complementarity、Nonstationarity。因此目标不是寻找一个普遍更优的框架,而是用兄弟框架有针对性地补救基座执行系统的失败,并把由此获得的能力沉淀进单一策略,使该策略在原始框架下依然有效。

失败触发的救援训练

方法分两部分。Directional Harness Evolution 沿不同修复方向演化出专用兄弟框架,形成一个可复用的 Sibling Harness Pool,该池在策略训练期间保持固定。Complementary Harness Rescue Training 规定调用时机:只有当基座框架下所有初始尝试均失败时才启用该池,由同一策略在选中的辅助框架下生成新的 rollout,并用这些轨迹替换失败组参与强化学习。

路由与证据刷新

选择哪些辅助框架由 Adaptive Harness Router 决定,它依据 Harness Behavior Profiles 并结合多个 LLM 的投票选出 Top-k 变体。由于策略在学习过程中不断变化,框架的相对效用也会漂移,因此引入 policy-aware profile re-anchoring,随策略学习刷新路由所依赖的证据。

实验结果与推理增益

在 AppWorld、SWE-Gym、DBBench 三个环境上,训练后的策略回到原始基座框架时大幅超过仅做策略训练的结果;行为分析与留出案例支持框架诱发的行为确实迁移进了策略本身。此外,把路由器复用于 Rank-1 推理,可在执行器 rollout 数不变的情况下获得额外收益。论文代码已公开。

为什么值得看

把「换框架」变成可迁移进策略本身的能力,给出失败驱动采样与路由的具体做法,对做智能体 RL 训练的团队有直接参考价值。

智能体强化学习论文

信源1 家

  1. [1]arXiv cs.AI一手信源Harness-S: Learning from Sibling Harnesses for Generalizable Agent Training

关键事实

  • Harness-S 只在基座框架下全部初始尝试失败时,才调用兄弟框架池重新生成轨迹并替换失败组[1]

  • Adaptive Harness Router 依据 Harness Behavior Profiles 与多个 LLM 投票选出 Top-k 变体[1]

  • 兄弟框架池在策略训练期间保持固定[1]

  • 在 AppWorld、SWE-Gym、DBBench 上,训练后策略回到原始基座框架时优于仅策略训练[1]

  • 复用路由器做 Rank-1 推理,在相同执行器 rollout 数下带来额外增益[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。