GUT方法量化并优化大模型推理不确定性
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载用有向无环图覆盖分支
大模型在推理时，即使面对相同的提示输入，每一步也可能分叉出大量不同的走向，其中一些链条和结论明显站不住脚，甚至毫无意义。这篇论文把这种分叉现象作为研究对象，提出名为 GUT 的方法。其做法是把一条推理链上可能出现的各个分支，用有向无环图来刻画，使图空间能够覆盖全部潜在走向。相比只沿着单条路径观察推理过程，这种表示方式把分叉本身纳入描述范围，为后续度量与优化提供了统一的载体。论文给出的方法由两个模块组成，分别承担量化与优化两项任务，二者都建立在这一图结构之上。
以图复杂度近似推理空间
GUT 的第一个模块是量化模块 GUT-Q，它要回答的问题是：一次推理的不确定性究竟有多大。该模块的思路是用图的复杂度去近似推理空间的复杂度，把难以直接测量的推理空间规模，转换为对图结构复杂程度的计算。这样一来，不确定性就不再只是定性描述，而有了可比较的数值依据。论文没有在摘要中展开具体的复杂度计算方式，只说明这一近似构成了度量推理不确定性的基础。对于需要判断模型输出稳定程度的场景，这种把分支结构折算成数值的做法，提供了一种可操作的观察角度。
把负不确定性作为奖励
第二个模块 GUT-O 负责降低不确定性。它把负的不确定性当作强化学习中的奖励函数，也就是说，推理过程的不确定性越低，获得的奖励越高，模型据此调整自身行为。量化模块给出数值，优化模块则把这个数值反过来用于训练，两者形成前后衔接的关系。与仅对输出结果做筛选或重采样的做法相比，这一路径直接作用于推理过程本身，试图从源头减少无意义分支的产生。论文在四款大模型和五个数据集上进行了实验，结果验证了 GUT 的有效性，但摘要未披露各模型与数据集的具体名称及各项指标数值。
适用范围与阅读提示
从材料看，GUT 的适用对象是大模型的推理过程，关注的是同一输入下分支过多、部分链条不可信的问题；其效果验证覆盖四款模型与五个数据集，说明方法已在多种设置下被测试过。需要留意的是，材料只给出结论性表述，没有列出对比基线、消融结果或误差范围，因此难以判断它在何种条件下优势更明显、在何种条件下可能失效。对关注推理稳定性的读者而言，这项工作的价值在于把分支结构显式建模，并让度量与优化共用同一套图表示；至于实际部署中的开销与限制，材料尚未涉及。
为什么值得看
为解决大模型推理过程中的发散与不可靠问题提供了新的量化与优化思路。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。