注册

DoubtLess：免训练对比解码让推理链缩短31%

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。

一篇 arXiv 论文提出 DoubtLess，一种免训练的对比解码方法：由较小的推理模型读取大模型已生成的思维链两次，分别以「简洁」和「冗长」两种提示运行，两个 logit 向量之差按强度缩放后，在思维链每一步叠加到大模型的 logits 上。在竞赛数学、研究生水平科学与竞赛编程共七个基准上，该方法把 Qwen3-32B 的思维链缩短 31% 且准确率不变，优于五个推理期基线；在自调试编程智能体中每轮思考 token 减少 20%，任务表现不变，并可泛化到另外两个模型家族。

全文梳理

AI 摘要依据下方信源原文自动整理，非原文转载

方法怎么运作

DoubtLess 属于免训练的推理期解码方法。它引入一个体量远小于目标模型的推理模型作为引导者，让这个小模型读取大模型当前已经生成的思维链内容两次：一次被提示以简洁方式思考，一次被提示以冗长方式思考。两次前向得到各自的 logit 向量，二者相减得到差值，再乘以一个强度系数，在思维链的每一步叠加到大模型自身的 logits 上，从而把生成方向推向更简短的表达。整个过程不需要为每个模型单独训练，也不需要向隐藏状态加入固定的引导向量。

与已有做法的差别

论文指出，此前缩短思维链的路径各有代价：要么针对每个模型额外训练，要么在模型隐藏状态上叠加固定引导向量，要么采用提前停止、禁用「wait」这类词等解码启发式，而这些启发式可能拉低准确率。DoubtLess 的定位是绕开上述三类限制——既不训练，也不依赖固定向量或词表层面的硬性规则，而是用一个小模型在每一步动态给出简洁与冗长之间的方向差。

实测数字与适用范围

在覆盖竞赛数学、研究生水平科学和竞赛编程的七个基准上，DoubtLess 把 Qwen3-32B 的思维链长度压缩 31%，准确率保持不变，成绩超过五个推理期基线。在自调试编程智能体场景中，每轮思考 token 下降 20%，任务表现没有变化。该方法还能泛化到另外两个模型家族，准确率同样不变；与基于训练的压缩手段叠加使用时，对一个已经为简洁性训练过的模型仍能进一步缩短思维链。

节省来自哪里

消融实验与行为分析给出了节省 token 的来源：DoubtLess 减少了模型反复检查的行为，且大部分被省下的 token 出现在正确答案首次出现在思维链中之后，也就是答案已经确定、后续冗余推演被压缩的部分。论文代码已公开。

为什么值得看

免训练即可压缩推理链，31% 的 token 节省且不掉点，对推理成本敏感的团队可直接复用。

Qwen大模型推理模型智能体论文

信源1 家

  1. [1]arXiv cs.AI一手信源DoubtLess: Training-Free Contrastive Decoding for Efficient Reasoning

关键事实

  • DoubtLess 由小模型分别以简洁与冗长提示读取大模型思维链，取两者 logit 之差缩放后叠加到大模型 logits[1]

  • 在七个竞赛数学、研究生科学与竞赛编程基准上，Qwen3-32B 的思维链缩短 31% 且准确率不变[1]

  • 该方法优于五个推理期基线，并在自调试编程智能体中把每轮思考 token 减少 20%[1]

  • 方法可泛化到另外两个模型家族且准确率不变，与基于训练的压缩结合还能进一步缩短思维链[1]

  • 消融与行为分析显示其减少了重复检查，大部分 token 节省出现在正确答案首次出现之后[1]

相关 · 论文

DreamX 将预训练视频扩散模型改造为通用潜在动作学习器

11月4日 周三·AI 78

arXiv 论文提出「认知共生体」概念，主张 AI 增强人的智能

11月4日 周三·AI 58

独立复现 DNO-Prct：Llama 3.1 8B 对 GPT-4o 胜率升…

11月4日 周三·AI 72

研究提出 PEARL 方法，用于持久抑制语言模型的不对齐行为

11月4日 周三·AI 78

本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。

去论坛讨论