ReTerm:让终端智能体从自身失败中学习恢复

论文AI 评分 78/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

针对终端智能体在长任务执行中遇到命令错误或实现缺陷后难以恢复、最终导致任务失败的问题,研究者提出 ReTerm,一种通过从自身失败任务中学习恢复来实现自我提升的终端智能体。为支撑训练,团队构建了定制数据流水线并产出 ReTerm-10K 数据集,为监督微调冷启动提供恢复示范;同时提出 ReTerm-GRPO 在线强化学习算法,从智能体自身的失败状态分叉出多次独立的自恢复尝试,依据这些尝试是否完成任务来学习。基于 Qwen3.5-9B 构建的 ReTerm-9B 在 Terminal-Bench 2.0 上取得 34.8% 的 Pass@1,较基座模型提升 14.6 个百分点。分析显示,相比标准 GRPO 训练,该方法在多种错误类别上恢复率更高。代码、数据与模型均已发布。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

要解决的问题

终端智能体在复杂编码任务上已表现出较强能力,但在长时间执行过程中,一旦出现命令错误或实现有缺陷,往往难以从中恢复,最终导致整个任务失败。ReTerm 的出发点正是这一恢复能力缺口:与其只训练智能体把任务做对,不如让它学会在已经出错之后如何继续推进。论文将恢复能力作为核心训练目标,并围绕它设计数据与算法。

数据与训练方法

为支撑训练,作者构建了一条定制化的数据流水线,产出 ReTerm-10K 数据集,其中包含有效的恢复示范,用于监督微调的冷启动阶段。在此基础上提出 ReTerm-GRPO 在线强化学习算法:它从智能体自身的失败状态出发进行分叉,生成多个相互独立的自恢复尝试,再根据这些尝试最终是否完成任务来更新策略。这样,智能体是从自己的恢复经验中学习,而不是依赖外部示范。

结果与开放情况

以 Qwen3.5-9B 为基础构建的 ReTerm-9B,在 Terminal-Bench 2.0 上取得 34.8% 的 Pass@1,相比基座模型提升 14.6 个百分点。进一步分析表明,与标准 GRPO 训练相比,该方法在多种错误类别上都取得更高的恢复率。论文同时公开了代码、数据和模型,并提供了项目页面,便于复现与后续研究。

为什么值得看

把「从失败中恢复」作为训练目标,并给出数据集、RL 算法与开源模型,对做智能体训练的人有直接参考价值。

Qwen智能体微调强化学习数据集

信源1 家

  1. [1]arXiv cs.AI一手信源ReTerm: Recovery Training for Self-Improving Terminal Agents

关键事实

  • ReTerm 通过让终端智能体学习从自身失败任务中恢复来实现自我提升[1]

  • 团队构建定制数据流水线并产出 ReTerm-10K 数据集,用于监督微调冷启动的恢复示范[1]

  • ReTerm-GRPO 从智能体自身失败状态分叉出多次独立自恢复尝试,依据是否完成任务进行学习[1]

  • 基于 Qwen3.5-9B 的 ReTerm-9B 在 Terminal-Bench 2.0 上 Pass@1 为 34.8%,比基座模型高 14.6 个百分点[1]

  • 相比标准 GRPO,该方法在多种错误类别上恢复率更高,代码、数据与模型均已发布[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。