论文提出先演化harness再训练权重的诊断式干预规则
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载harness 与权重的分工
论文把改进长程 LLM 智能体的两条路径放在一起比较:一条是演化冻结模型外围的 harness,另一条是训练模型权重。作者的做法是先让自演化 harness 把系统做强,再把基础权重和训练后权重分别与种子 harness、演化后的 harness 交叉组合,借此判断哪些收益能被训练后的模型保留,哪些仍然需要运行时支撑。论文给出的判断依据来自智能体的失败构成:按失败轨迹中第一个触发的信号打标签,可以把失败分成流程类与内容类。流程类包括调用被阻塞、陷入循环、步数预算耗尽;内容类则是交付了一份质量不佳的方案。harness 演化负责修复前者,它灌输的行为可以被训练进权重,而内容类失败才是权重训练要解决的问题。
DeepPlanning 上的数字
在 DeepPlanning 上,自演化 harness 循环把 Qwen3.5-4B 的留出分数从 0.16 提升到 0.30,把 Qwen3.5-9B 从 0.32 提升到 0.44;对 4B 而言,留出交付率从 55% 升到 90%,内容类失败则留给权重处理。在演化 harness 轨迹上训练的 LoRA 适配器把这一收益内化:在原始 harness 下,两种规模都获得 +0.13 的留出任务提升;在 4B 上适配器与 harness 叠加,使留出分数翻倍以上;在 9B 上适配器单独就能匹配完整演化线的表现,把内容类失败从四分之一的轨迹降到二十分之一。作为对照,用答案打乱轨迹训练的安慰剂适配器表现低于基础模型。
迁移与实验设置
该循环也能迁移到 WebArena-Lite,在 117 个未见任务上获得 +0.09,但那里的收益存在于模型所看到的内容中,适配器不再额外叠加。论文把这一结论概括为一条诊断后干预的规则,并应用了两次:先读失败构成,在 harness 与权重之间做选择;再读被接受的编辑改变了什么,决定哪些收益值得训练进权重。分数为四次 rollout 的均值,对照新锚点,除标注处外均为同晚测量,覆盖六个家族的八个模型和两个基准。论文共 21 页、7 张图、15 张表。
为什么值得看
给出可操作的判断规则:先看失败构成决定改 harness 还是训权重,再决定哪些收益值得内化。
信源1 家
关键事实
论文让自演化 harness 先增强系统,再将基础权重与训练后权重同种子、演化后的 harness 交叉组合[1]
方法按失败轨迹中首个触发的信号分类,区分流程失败(调用被阻塞、循环、步数预算耗尽)与内容失败(交付的方案质量差)[1]
在 DeepPlanning 上,自演化 harness 循环把 Qwen3.5-4B 的留出分数从 0.16 提到 0.30,把 Qwen3.5-9B 从 0.32 提到 0.44[1]
在演化 harness 轨迹上训练的 LoRA 适配器在原始 harness 下为两种规模各带来 +0.13 的留出任务提升[1]
用答案打乱轨迹训练的安慰剂适配器表现低于基础模型[1]
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
