新研究提出答案分布轨迹以分析LLM推理动态
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载从终点准确率到轨迹
这篇论文关注的是链式思维推理的评估方式。作者指出，链式思维在模型输入与最终答案之间构成了一段结构化计算，但常见的评估只看最终答案是否正确，也就是端点准确率，而忽略了模型走到答案所经过的路径。已有研究用熵曲线刻画推理过程中不确定性的变化，但熵只能反映不确定性有多少，无法说明是哪些候选答案在争夺这部分不确定性。为此，作者提出答案分布轨迹这一表示，把模型在推理推进过程中对各个答案的完整预测分布记录下来，用随机动力学的视角来看待推理过程。
比熵更细的刻画
答案分布轨迹被作者描述为一种严格更细的表示：端点准确率只给一个结果，熵曲线给一条不确定性随推理变化的曲线，而答案分布轨迹保留每一步上各候选答案的概率分布，因此信息量更大。基于这种表示，作者把一条推理轨迹刻画为包含探索、修正、移动与确定四个阶段的动力学剖面，并据此区分推理成功与失败背后不同的动力学机制。作者在十六个开放权重语言模型和四个推理基准上做了观察，发现即使端点相同、熵曲线也相近的轨迹，其推理动力学也可能存在明显差异。
模型与任务间的差异
论文报告称，这些动力学特征在模型内部、模型之间以及不同任务之间都存在较大变化，不同的目标偏好不同的动力学剖面。作者还发现，训练与推理阶段的选择会系统性地改变这些剖面。也就是说，同样的模型在不同训练或推理配置下，走向答案的方式会被重塑，而这种重塑未必体现在最终准确率上。论文共十六页，含四张图和三个表格，归类于人工智能、计算与语言、信息论与机器学习等方向。
对评估实践的意义
对关注模型推理评估的读者来说，这项工作提示：仅凭最终答案是否正确，或者仅看不确定性曲线的形状，可能无法区分推理过程的质量。答案分布轨迹提供了一种更细的观察口径，可以用来分析和评价大模型推理的动态过程。作者将其定位为一个分析框架，而非某种新的训练方法；材料中没有给出该方法在具体产品中的落地情况，也没有说明其计算开销与适用范围之外的限制。
为什么值得看
提供新视角分析模型推理过程，有助于理解模型内部决策机制。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。