研究：对抗式投机推理提升长程智能体成功率
论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
一篇 arXiv 论文提出，投机解码在长程智能体推理中并非只加速、不改变模型行为：在验证窗口内数值噪声会累积，草稿模型的接受结果在 30 步后能改变目标模型的输出分布，从而随机影响推理准确率。作者训练草稿模型在关键推理点被拒绝，使这些 token 由目标模型在最不易受噪声干扰的条件下采样。在复杂智能体编程基准上，端到端成功率提升，目标模型及其输出分布不变，仅训练托管参数的 0.06% 至 0.28%。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载投机解码的另一种作用
论文针对的是长程智能体推理场景。作者在复杂智能体任务上测量了多个前沿开放权重模型，并比较了不同的投机解码方式。结果显示，验证窗口内会积累数值噪声；草稿模型对思考过程的接受结果在 30 步之后能够改变目标模型的输出分布，使长程智能体的推理准确率朝随机方向偏移。这一观察与把投机解码视为纯系统优化、不改变模型行为的常见看法相反，也意味着以往只以接受率为目标训练草稿模型的做法，在长程任务上并不充分。
让草稿模型在关键点被拒
作者的做法是控制上述噪声，而不是改变目标模型整体验证的 token 分布。具体来说，他们在智能体轨迹中找出关键推理点，训练草稿模型在这些位置倾向于被拒绝，也就是形成对抗式偏好。推理时，训练过的草稿模型与目标模型恰好在这些决策点分开，验证重新开始，关键思考 token 因此由目标模型在其噪声最小的条件下采样并编码。作者称，这让关键推理在长程任务中被更好地索引，也更耐久。
效果与代价
在复杂智能体编程基准上，该方法提升了端到端成功率，同时没有改动目标模型本身，也没有改变其输出分布。训练开销方面，论文给出的数字是只训练托管参数的 0.06% 至 0.28%。作者据此把投机解码机制重新定位为一种主动分配上下文精度的手段，而不再只是加速器。材料未披露具体基准名称、对比基线和提升幅度的绝对值。
为什么值得看
把投机解码从纯加速手段变成提升长程智能体准确率的调节手段，且只需训练极少量参数。
智能体论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。