研究通过自定义工具提取闭源前沿模型隐藏推理链
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载用自定义工具引出推理
闭源系统里的原始思维链轨迹不对外公开,因此模型能力提升是否来自推理改进,外部无法直接核验。论文提出的做法是:通过标准 API 的一项功能注册一个简单的自定义工具,借此让前沿模型把中间推理过程外化出来。作者同时意识到,这样得到的轨迹可能只是事后合理化,而非真实推理,所以在方法设计上先做了一轮对照验证:在开源模型上把提取出的推理与原生思维链比较,再把同一套流程延伸到包括 GPT-6 Astra 在内的闭源前沿模型。验证覆盖竞赛数学、科学和代码生成三类任务,结果显示提取出的推理在表现上与原生推理相当,并且明显好于不进行推理的基线。这一对照构成了后续刻画工作的前提,使外化轨迹具备可讨论的行为意义。
三类任务上的对照结果
对照实验的落点不在单一榜单分数,而在“提取的推理是否等价于模型自身的推理”这一问题。作者在开源模型上以原生思维链为参照,确认通过自定义工具外化出的轨迹能达到相近水平;随后在闭源前沿模型上重复这一比较,并加入无推理基线作为下限。竞赛数学、科学、代码生成三类任务的共同结论是:外化轨迹带来的表现与原生推理接近,且显著高于不做推理的基线。这一结果说明,借助标准 API 的工具体系所获得的中间步骤,并非与真实推理无关的附属产物,至少在下游表现上可以替代原生轨迹发挥作用。作者也据此把讨论从“分数高低”转向“推理如何被组织和压缩”。
压缩与组织方式的差异
在确认轨迹可用之后,论文转向刻画前沿模型如何组织中间推理,考察维度包括 token 效率、推理步骤的类型,以及被诱导出的推理树结构。跨模型比较显示,不同模型在外化、压缩和组织推理上存在系统性差别,而不是同一种模式的细微波动。其中 Astra 表现出 token 高效的定向推理:更早选中一条正确路径,把基础步骤放在内部完成,只把关键推理外化出来。这一描述对应的是推理树的形状与步骤分布,而非单纯的输出长度。作者由此提出,可以把这类行为特征当作观察前沿模型推理的视角,补充基准分数之外的信息。论文共 33 页、含 14 幅图,归属于计算与语言等分类。
对使用者的实际含义
对依赖闭源模型的使用者而言,这项工作给出的直接信息是:通过标准 API 注册简单自定义工具,就有可能让模型把中间步骤呈现出来,且这些步骤在竞赛数学、科学和代码生成上与原生推理表现相当。这意味着在无法查看原始思维链的前提下,仍存在一条可操作的外部观察路径。同时,结论带有明确边界:轨迹可能包含事后合理化成分,因此作者先用开源模型的原生思维链做校准,再推广到闭源模型;提取效果也只在上述三类任务上得到验证。对关注推理成本的一方,Astra 那种把基础步骤留在内部、只外化关键环节的做法,提示 token 消耗的差异可能来自推理组织方式,而不只是模型规模。
为什么值得看
揭示了GPT-6 Astra等闭源模型的内部推理压缩机制,提供绕过黑盒验证模型真实推理能力的新方法。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
