研究通过自定义工具提取闭源前沿模型隐藏推理链

论文AI 评分 82/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

闭源系统原始思维链不可见,研究者利用标准API注册自定义工具,诱导前沿模型外化中间推理过程。为排除事后合理化干扰,先在开源模型上与原生思维链对比,后扩展至GPT-6 Astra等闭源系统。在数学、科学与代码生成任务中,提取出的推理效果与原生推理持平,且显著优于无推理基线。分析发现,Astra表现出令牌高效的定向推理特征,更早选定正确路径,内部处理基础步骤,仅外化关键推理。该研究提供了超越基准分数的模型推理行为视角。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

用自定义工具引出推理

闭源系统里的原始思维链轨迹不对外公开,因此模型能力提升是否来自推理改进,外部无法直接核验。论文提出的做法是:通过标准 API 的一项功能注册一个简单的自定义工具,借此让前沿模型把中间推理过程外化出来。作者同时意识到,这样得到的轨迹可能只是事后合理化,而非真实推理,所以在方法设计上先做了一轮对照验证:在开源模型上把提取出的推理与原生思维链比较,再把同一套流程延伸到包括 GPT-6 Astra 在内的闭源前沿模型。验证覆盖竞赛数学、科学和代码生成三类任务,结果显示提取出的推理在表现上与原生推理相当,并且明显好于不进行推理的基线。这一对照构成了后续刻画工作的前提,使外化轨迹具备可讨论的行为意义。

三类任务上的对照结果

对照实验的落点不在单一榜单分数,而在“提取的推理是否等价于模型自身的推理”这一问题。作者在开源模型上以原生思维链为参照,确认通过自定义工具外化出的轨迹能达到相近水平;随后在闭源前沿模型上重复这一比较,并加入无推理基线作为下限。竞赛数学、科学、代码生成三类任务的共同结论是:外化轨迹带来的表现与原生推理接近,且显著高于不做推理的基线。这一结果说明,借助标准 API 的工具体系所获得的中间步骤,并非与真实推理无关的附属产物,至少在下游表现上可以替代原生轨迹发挥作用。作者也据此把讨论从“分数高低”转向“推理如何被组织和压缩”。

压缩与组织方式的差异

在确认轨迹可用之后,论文转向刻画前沿模型如何组织中间推理,考察维度包括 token 效率、推理步骤的类型,以及被诱导出的推理树结构。跨模型比较显示,不同模型在外化、压缩和组织推理上存在系统性差别,而不是同一种模式的细微波动。其中 Astra 表现出 token 高效的定向推理:更早选中一条正确路径,把基础步骤放在内部完成,只把关键推理外化出来。这一描述对应的是推理树的形状与步骤分布,而非单纯的输出长度。作者由此提出,可以把这类行为特征当作观察前沿模型推理的视角,补充基准分数之外的信息。论文共 33 页、含 14 幅图,归属于计算与语言等分类。

对使用者的实际含义

对依赖闭源模型的使用者而言,这项工作给出的直接信息是:通过标准 API 注册简单自定义工具,就有可能让模型把中间步骤呈现出来,且这些步骤在竞赛数学、科学和代码生成上与原生推理表现相当。这意味着在无法查看原始思维链的前提下,仍存在一条可操作的外部观察路径。同时,结论带有明确边界:轨迹可能包含事后合理化成分,因此作者先用开源模型的原生思维链做校准,再推广到闭源模型;提取效果也只在上述三类任务上得到验证。对关注推理成本的一方,Astra 那种把基础步骤留在内部、只外化关键环节的做法,提示 token 消耗的差异可能来自推理组织方式,而不只是模型规模。

为什么值得看

揭示了GPT-6 Astra等闭源模型的内部推理压缩机制,提供绕过黑盒验证模型真实推理能力的新方法。

GPT开源模型代码生成API

信源1 家

  1. [1]arXiv cs.AI一手信源Capable yet Parsimonious: Extracting and Characterizing Hidden Chain-of-Thought in Frontier Models

关键事实

  • 通过标准API注册自定义工具可诱导闭源前沿模型外化中间推理过程[1]

  • 提取的推理在数学、科学和代码生成上与原生推理性能匹配,大幅优于无推理基线[1]

  • GPT-6 Astra表现出令牌高效的定向推理,内部解决基础步骤而仅外化关键推理[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。