Tev 发布长程智能体训练数据集与 27B 模型

论文AI 评分 82/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇投稿至 arXiv 的论文提出 Tev-Gym,这是面向长程智能体的训练数据集,包含 7 个领域共 1170 个经过验证的任务环境,每个任务带有可验证、密集且渐进的奖励。其做法是先构建任务领域的隐藏完整规格,再据此逐步渲染出智能体面对的环境,从而控制复杂度并得到进度度量。作者用进度潜力奖励塑形把该度量转成每步密集奖励,训练出 Tev-27B,在 ALE-CM 的 Pass@5 上追平 GPT-6 Astra 与 Claude Opus 5,并泛化到 Terminal-Bench 3.0、4.0 子集,超过 GLM 5.2 与 Gemini 3.7 Flash。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

长程任务的训练瓶颈

论文关注的是能在经济价值任务上自主工作数小时到数天的长程智能体,这类能力被视为自动发现与递归自我改进的基础。但开源模型在这类任务上表现不佳,原因集中在两点:缺少训练数据,也缺少可用的训练配方。把两者同时做大并不容易,因为长而复杂的任务难以收集与验证,而且奖励信号稀疏。作者称其工作同时针对这两个问题,一方面提供数据,另一方面给出把进度信号转成训练奖励的方法。

先建隐藏规格再渲染环境

Tev-Gym 被描述为第一个带有可验证、密集、渐进奖励的长程智能体训练数据集,包含 7 个领域共 1170 个经过验证的任务环境。它的构建采用以潜在世界为先的思路:先构造一个潜在世界,也就是对任务领域、工作流以及每一步之后预期状态的完整且正确的隐藏规格。随后每个任务从这个规格逐步渲染成面向智能体的环境,这样既能控制复杂度,也能自然得到一个进度度量。这一度量正是后续奖励塑形的来源。

把进度变成每步奖励

作者把上述进度度量接入训练配方,称为进度潜力奖励塑形(PPRS),将进度转换为密集的每步奖励。论文称这样做提升了训练效率,并让原本难以处理的任务变得可以训练。用该配方训练得到的模型是 Tev-27B。论文给出的结果显示,它在 Agents' Last Exam 的计算与数学科学领域(ALE-CM)上取得明显提升,在 Pass@5 指标上追平 GPT-6 Astra 与 Claude Opus 5。

跨基准的泛化表现

论文还报告了泛化结果:尽管训练只用了与 ALE 相关的数据,Tev-27B 仍能迁移到 Terminal-Bench(TB)3.0 与 4.0 的子集,成绩超过 GLM 5.2 与 Gemini 3.7 Flash;在 TB 2.1 这类中等长度任务上,达到 Claude Opus 4.8 级别的表现。论文提交于 2026 年 10 月 13 日,编号 arXiv:2610.18868,归入 cs.CL、cs.AI、cs.CV、cs.LG 分类。

为什么值得看

长程任务奖励稀疏是开源模型的主要瓶颈,这里给出了数据集加训练配方,并附跨基准对比结果。

GPTClaudeGemini智能体论文

信源1 家

  1. [1]arXiv cs.AI一手信源Tev: Scaling Long-Horizon Agentic Environments with Dense Progress Rewards

关键事实

  • Tev-Gym 覆盖 7 个领域、1170 个经过验证的任务环境,奖励可验证、密集且渐进[1]

  • 构建方式是先写出任务领域、工作流与每步预期状态的隐藏完整规格,再逐步渲染成智能体环境[1]

  • 通过进度潜力奖励塑形把进度度量转成每步密集奖励,使原本难以训练的任务可训练[1]

  • Tev-27B 在 ALE-CM 的 Pass@5 上追平 GPT-6 Astra 与 Claude Opus 5[1]

  • 仅用 ALE 相关数据训练,却泛化到 Terminal-Bench 3.0 与 4.0 子集,超过 GLM 5.2 与 Gemini 3.7 Flash[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。