SWE-Critix:训练通用验证器评估编码智能体轨迹

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

编码智能体被越来越多用于端到端软件工程任务,但往往缺少现成的评判标准。针对执行轨迹可能包含数百次与代码仓库和外部工具交互、现有验证器要么依赖未经专门训练的通用大模型、要么只输出标量奖励的问题,作者提出 SWE-Critix 后训练流程:给定任务与执行轨迹,验证器预测完成标签并生成自然语言分析解释判断。流程结合监督微调与强化学习,基于 CodeForge-Preview 的轨迹训练一系列 30B 模型。在留出测试集上,分类准确率从基础 Qwen3-30B-A3B 推理模型的 57% 提升到 SFT 后的 66%、RL 后的 78%。模型、数据集与训练代码已公开。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

为什么需要轨迹验证器

编码智能体正被用于端到端的软件工程任务,这类场景通常没有现成的评判标准来界定成功。因此需要一种验证机制,能够可靠地判断智能体的行为并给出解释。难点在于,随着编码智能体能力增强,它们可以处理长周期任务,执行轨迹可能极其漫长,包含数百次与代码仓库和外部工具的迭代交互。已有的验证方案存在两类局限:一类直接使用通用大模型,没有经过专门训练;另一类训练专用评判器,但主要目标是产出标量奖励。基于训练来构建通用验证器的探索相对有限,这正是该工作切入的方向。

方法:SFT 加 RL 的两段式训练

SWE-Critix 的输入是任务及其执行轨迹,输出包括两部分:完成标签的预测,以及用自然语言写出的判断依据。训练流程把监督微调与强化学习结合起来,在 CodeForge-Preview 产生的轨迹上训练一系列 30B 规模的模型。这种组合意味着模型先通过监督微调学习模仿判断与解释的形式,再通过强化学习进一步优化判断质量。作者将这一流程定位为后训练管线,强调其面向的是通用验证能力,而非只输出单一分数。

效果与开放程度

在留出测试集上,作者报告了分阶段的准确率变化:基础 Qwen3-30B-A3B 推理模型的分类准确率为 57%,经过监督微调后升至 66%,再经过强化学习后达到 78%。这组数字覆盖了从基座到两个训练阶段的完整对比,便于判断每一阶段带来的增益。除结果外,作者还公开了模型、数据集与训练代码,供后续研究使用。论文提交于 2026 年 10 月 9 日,编号 arXiv:2610.13356。

为什么值得看

给出编码智能体轨迹验证的可复现训练方案与准确率提升数据,并开源模型、数据与代码。

Qwen大模型推理模型智能体微调

信源1 家

  1. [1]arXiv cs.AI一手信源SWE-Critix: Post-Training Generalist Verifiers for Assessing Coding-Agent Trajectories

关键事实

  • SWE-Critix 是一个用于训练编码智能体轨迹通用验证器的后训练流程,验证器会预测完成标签并生成自然语言分析[1]

  • 该流程结合监督微调与强化学习,基于 CodeForge-Preview 的轨迹训练一系列 30B 模型[1]

  • 在留出测试集上,分类准确率从基础 Qwen3-30B-A3B 推理模型的 57% 提升到 SFT 后的 66%、RL 后的 78%[1]

  • 作者公开了模型、数据集与训练代码[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。