论文提出先演化harness再训练权重的诊断式干预规则

论文AI 评分 78/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇 arXiv 论文研究长程 LLM 智能体的改进路径:是演化冻结模型外围的 harness,还是训练模型权重。作者用自演化 harness 先提升系统表现,再把基础权重与训练后权重同种子、演化后的 harness 交叉组合,观察哪些收益能被训练保留、哪些仍依赖运行时。方法按失败轨迹中首个触发的信号分类,把失败分为流程类(调用被阻塞、循环、步数预算耗尽)与内容类(交付的方案质量差)。结论是 harness 演化修流程类失败,其行为可被训练进权重,内容类失败才该交给权重训练。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

harness 与权重的分工

论文把改进长程 LLM 智能体的两条路径放在一起比较:一条是演化冻结模型外围的 harness,另一条是训练模型权重。作者的做法是先让自演化 harness 把系统做强,再把基础权重和训练后权重分别与种子 harness、演化后的 harness 交叉组合,借此判断哪些收益能被训练后的模型保留,哪些仍然需要运行时支撑。论文给出的判断依据来自智能体的失败构成:按失败轨迹中第一个触发的信号打标签,可以把失败分成流程类与内容类。流程类包括调用被阻塞、陷入循环、步数预算耗尽;内容类则是交付了一份质量不佳的方案。harness 演化负责修复前者,它灌输的行为可以被训练进权重,而内容类失败才是权重训练要解决的问题。

DeepPlanning 上的数字

在 DeepPlanning 上,自演化 harness 循环把 Qwen3.5-4B 的留出分数从 0.16 提升到 0.30,把 Qwen3.5-9B 从 0.32 提升到 0.44;对 4B 而言,留出交付率从 55% 升到 90%,内容类失败则留给权重处理。在演化 harness 轨迹上训练的 LoRA 适配器把这一收益内化:在原始 harness 下,两种规模都获得 +0.13 的留出任务提升;在 4B 上适配器与 harness 叠加,使留出分数翻倍以上;在 9B 上适配器单独就能匹配完整演化线的表现,把内容类失败从四分之一的轨迹降到二十分之一。作为对照,用答案打乱轨迹训练的安慰剂适配器表现低于基础模型。

迁移与实验设置

该循环也能迁移到 WebArena-Lite,在 117 个未见任务上获得 +0.09,但那里的收益存在于模型所看到的内容中,适配器不再额外叠加。论文把这一结论概括为一条诊断后干预的规则,并应用了两次:先读失败构成,在 harness 与权重之间做选择;再读被接受的编辑改变了什么,决定哪些收益值得训练进权重。分数为四次 rollout 的均值,对照新锚点,除标注处外均为同晚测量,覆盖六个家族的八个模型和两个基准。论文共 21 页、7 张图、15 张表。

为什么值得看

给出可操作的判断规则:先看失败构成决定改 harness 还是训权重,再决定哪些收益值得内化。

Qwen智能体论文

信源1 家

  1. [1]arXiv cs.AI一手信源Harness Evolution Hits a Ceiling: When Weight Training Should Begin

关键事实

  • 论文让自演化 harness 先增强系统,再将基础权重与训练后权重同种子、演化后的 harness 交叉组合[1]

  • 方法按失败轨迹中首个触发的信号分类,区分流程失败(调用被阻塞、循环、步数预算耗尽)与内容失败(交付的方案质量差)[1]

  • 在 DeepPlanning 上,自演化 harness 循环把 Qwen3.5-4B 的留出分数从 0.16 提到 0.30,把 Qwen3.5-9B 从 0.32 提到 0.44[1]

  • 在演化 harness 轨迹上训练的 LoRA 适配器在原始 harness 下为两种规模各带来 +0.13 的留出任务提升[1]

  • 用答案打乱轨迹训练的安慰剂适配器表现低于基础模型[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。