GLOBE：免训练在线早停算法，输出 token 减少 49.7%
论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
论文提出 GLOBE，一种无需训练的在线算法，用于提前终止模型的思维链推理。它把每个已完成的推理片段映射到单位球面上，据此观察语义轨迹的形状。方法分两阶段：先在一个独立分支中生成简短的试探性答案，若该答案的置信度超过阈值，就停止主流程；若生成继续，轨迹阶段会在路径反复折返、净进展很小时终止。在数学推理、工具调用、智能体记忆等五个基准上，GLOBE 在两个模型上使输出 token 减少 49.7%，端到端实际耗时减少 51.0%，五项任务平均得分 80.58%，与完整思维链相当。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载要解决的问题
材料指出，思维链推理虽然能提升解题表现，但模型常在正确答案已经可达之后仍继续生成。这些多余步骤一方面抬高服务成本，另一方面可能用错误结果替换掉原本正确的中间结果。GLOBE 的定位就是在这种“答案已可达”的时刻终止生成，而不是等模型自行结束。作者称其为在线、免训练的算法，意味着不需要额外训练模型即可在推理过程中生效。
两阶段终止机制
GLOBE 把每个已完成的推理片段嵌入成单位球面上的一个点，通过这串点构成的语义轨迹形状判断是否该停。第一阶段是试探：在一个独立分支里生成简短的试探性答案，把它的置信度与阈值比较，通过就停掉主流程。若主流程继续，则进入轨迹阶段：当这条路径反复改变方向、净进展很小时，判定继续推理收益有限并终止。两个阶段分别从答案置信度与轨迹几何两个角度给出停止信号。
实测效果
在包括数学推理、工具调用和智能体记忆在内的五个基准上，GLOBE 在两个模型上把输出 token 削减 49.7%，端到端实际耗时缩短 51.0%。同时五项任务平均得分 80.58%，与完整思维链的表现相当。也就是说，节省主要来自不再生成冗余步骤，而非牺牲准确率换取速度。材料未给出各基准的分项数字，也未说明两个模型的具体身份。
为什么值得看
思维链过度生成会推高推理成本，还可能把正确答案改错；该法免训练即可削减约一半 token 与耗时，且精度不降。
智能体论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。