ARBITER:35B MoE 智能体验证器用于竞赛编程判题与诊断

论文AI 评分 78/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

研究提出一项任务:模型仅凭题面与源码判断候选程序并给出诊断,用生成的反例作为可核查证据,从而在不消耗官方提交次数的情况下获得反馈。为此构建了来自 USACO 2026 赛事的 USACO-JUDGE 评测集,包含人类专家与多个 LLM 编写的通过和未通过程序。随后在通用执行沙箱中用强化学习训练了 35B 混合专家(MoE)智能体验证器 ARBITER。训练使错误程序上的反例成功率从 40.61% 提升到 62.67%,USACO-JUDGE 上的平均二分类判定准确率从 71.41% 提升到 87.41%。除验证外,ARBITER 在代码选择与改进上也优于基线;在 IOI 2026 案例中,其引导的改进使 GPT-OSS-120B 在官方提交限制下的期望得分超过金牌线。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

判题反馈的缺口

竞赛编程的官方判题系统只在有限的提交次数内给出权威结论,不会说明失败原因,也不提供导致失败的输入。这种反馈缺失限制了测试时扩展的两种常见做法:从多个候选解中挑选,或对已有尝试进行修正。论文把问题形式化为一个新任务:模型只看题目描述和源代码,就要判断候选程序是否正确,并给出失败诊断,而生成的反例充当可被检查的证据。这样做的目的是在不占用官方提交额度的前提下,获得有信息量的反馈信号。作者同时指出,要评估这一任务,需要一批带有真实判定结果、且来源多样的程序样本。

评测集与验证器训练

为评估该任务,作者从 USACO 2026 赛事构建了 USACO-JUDGE,其中既有通过的程序,也有未通过的程序,作者来源包括人类专家和多个大语言模型,从而覆盖不同水平的解法。在此基础上训练了 ARBITER,一个 35B 参数的混合专家(MoE)智能体验证器,训练方式是在一个通用的执行沙箱中使用强化学习。沙箱提供了实际运行程序、观察行为的能力,使模型能够通过构造输入来检验候选程序。论文报告了两项核心指标的变化:在错误程序上生成有效反例的成功率由 40.61% 提高到 62.67%;在 USACO-JUDGE 上的平均二分类判定准确率由 71.41% 提高到 87.41%,接近前沿验证水平。

超出判题的用途

论文强调 ARBITER 的作用不限于给出对错结论。在代码选择与代码改进两类下游任务上,它的表现都优于基线,说明其反馈可以用于在多个候选中做挑选,也可以用于指导对已有程序的修改。作者还给出一个 IOI 2026 的案例:在官方提交次数限制下,由 ARBITER 引导的改进把 GPT-OSS-120B 的期望得分提升到金牌线之上。这一结果把验证器的价值与真实赛制约束联系起来——反馈质量直接影响在有限提交预算内能达到的成绩。

方法与适用边界

从摘要可见,该工作的关键设计是把反例当作可核查证据,而不是只输出一个判定标签,这使反馈可以被人工或程序复核。评测集取自特定赛事与特定年份,程序来源混合了人类与模型,训练依赖通用执行沙箱中的强化学习。论文未在摘要中说明沙箱的具体实现、训练数据规模或推理成本,也未给出除 USACO-JUDGE 与 IOI 2026 案例之外的泛化结果。因此,其结论目前主要适用于竞赛编程这类有明确判定标准、可实际执行代码的场景。

为什么值得看

用可核查反例替代官方判题反馈,让代码生成的选择与修正不再受提交次数限制,并给出可复现的评测集与训练方法。

GPT智能体强化学习MoE论文

信源1 家

  1. [1]arXiv cs.AI一手信源Beyond the Verdict: Agentic Code Judging with Verifiable Feedback

关键事实

  • 论文提出模型仅用题面和源码判断并诊断候选程序,生成的反例作为可核查证据[1]

  • 构建了来自 USACO 2026 赛事的 USACO-JUDGE 评测集,含人类专家与多个 LLM 编写的通过和未通过程序[1]

  • ARBITER 是 35B 混合专家(MoE)智能体验证器,在通用执行沙箱中用强化学习训练[1]

  • 训练使错误程序上的反例成功率从 40.61% 升至 62.67%,平均二分类判定准确率从 71.41% 升至 87.41%[1]

  • 在 IOI 2026 案例中,ARBITER 引导的改进使 GPT-OSS-120B 在官方提交限制下期望得分超过金牌线[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。