注册

可执行计算图替代思维链：推理长度最多缩短6倍

论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。

一篇 arXiv 论文提出 Structural Chain-of-Thought 框架，让模型不再输出自由形式的推理文本，而是生成可执行的计算图，最终答案由该图确定性执行得到。训练采用基于图的强化学习，奖励结构有效性、答案正确性以及与参考图的节点重合度。在五个基准、四个模型家族上的实验显示，该方法相比监督式图训练稳定提升准确率，相比标准 GRPO 与思维链监督训练，生成长度最多可缩短 5 至 6 倍。忠实性实验表明，用该方式训练的模型倾向于从生成的图中推导答案，而非像通常的思维链那样做事后合理化。

全文梳理

AI 摘要依据下方信源原文自动整理，非原文转载

用可执行图替代推理文本

论文针对思维链提示的一个固有短板：模型给出的解释难以核验、生成开销大，而且未必忠实反映真实推理过程。作者提出的 Structural Chain-of-Thought 改变了输出形态——模型不再写一段自由形式的推理文字，而是产出一张可执行的计算图，最终答案通过对这张图做确定性执行得到。这样一来，推理路径本身成为可检查、可复现的对象，而不是一段只能阅读、无法验证的自然语言叙述。

奖励结构有效性与节点重合

训练环节采用基于图的强化学习。奖励信号由三部分构成：生成图的结构是否有效、最终答案是否正确，以及生成图与参考图在节点上的重合程度。三者共同约束模型，使其不仅追求答案对，还要产出结构合理、与参考推理路径接近的图。论文在五个基准和四个模型家族上做了实验，结果显示该方法相比监督式图训练在准确率上有一致的提升。

生成长度最多缩短数倍

效率方面，论文给出的对比对象是标准 GRPO 与思维链监督训练。相比这两者，Structural Chain-of-Thought 的生成长度最多可缩短 5 至 6 倍。这一数字的意义在于，推理开销与输出长度直接相关，图结构把冗长的文字推理压缩成更紧凑的表达，同时保留可执行的推理步骤。

忠实性：从图推导而非事后解释

论文还做了忠实性实验。结果显示，用该方式训练的模型倾向于从自己生成的图中推导出答案，而不是像通常的思维链推理那样先有答案、再补一段事后合理化。这一点关系到推理过程能否被信任：如果解释只是事后编造，它对排查错误和审计决策的价值就有限；而答案由可执行图产生，解释与结论之间的关联更紧密。

为什么值得看

把推理过程变成可执行、可验证的图，同时大幅压缩生成长度，对关注推理可靠性与推理成本的人有直接参考价值。

强化学习论文

信源1 家

  1. [1]arXiv cs.AI一手信源Structural Chain-of-Thought: Reasoning with Executable Computational Graphs

关键事实

  • 论文提出 Structural Chain-of-Thought 框架，模型生成可执行计算图而非自由形式推理，答案由图确定性执行得到[1]

  • 训练使用基于图的强化学习，奖励结构有效性、答案正确性和与参考图的节点重合度[1]

  • 在五个基准和四个模型家族上，方法相比监督式图训练稳定提升准确率[1]

  • 相比标准 GRPO 和思维链监督训练，生成长度最多可缩短 5 至 6 倍[1]

  • 忠实性实验显示，该方法训练的模型更依赖从生成图中推导答案，而非事后合理化[1]

相关 · 论文

DreamX 将预训练视频扩散模型改造为通用潜在动作学习器

11月4日 周三·AI 78

arXiv 论文提出「认知共生体」概念，主张 AI 增强人的智能

11月4日 周三·AI 58

独立复现 DNO-Prct：Llama 3.1 8B 对 GPT-4o 胜率升…

11月4日 周三·AI 72

研究提出 PEARL 方法，用于持久抑制语言模型的不对齐行为

11月4日 周三·AI 78

本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。

去论坛讨论