研究提出 LLM-SR-UQ 框架,用方程结构分歧量化外推不确定性
论文AI 评分 66/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
针对大模型引导的符号回归多只给出单一最优方程、不评估其他函数形式不确定性的问题,一项 arXiv 论文提出 LLM-SR-UQ 框架:保留多个相互竞争的方程结构,用它们之间的分歧刻画对底层函数形式的不确定性,并把固定宽度保形区间扩展为结构区间,在候选方程分歧大处加宽预测区间。在 LLM-SRBench 数据集上,标准保形区间在分布内覆盖达标,但在外推场景下经常失效;该框架在保持分布内覆盖的同时明显改善覆盖表现,迁移到其他符号回归方法时也表现出泛化性。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载问题出在单一最优方程
论文关注的是大模型辅助从数据中发现数学方程这一任务。现有做法大多只输出一个拟合最好的方程,却不说明其他函数形式是否同样能解释观测数据。作者指出,不同方程可以在已观测数据上拟合得同样好,但外推到训练范围之外时给出的预测可能相差很大。在 LLM-SRBench 数据集上的实验显示,标准保形区间在分布内能达到名义覆盖水平,一旦进入外推场景就频繁失效,也就是区间不再可靠地包住真实值。
用结构分歧刻画不确定性
LLM-SR-UQ 的做法是不急于收敛到单一方程,而是保留若干相互竞争的方程结构,把这些候选之间的分歧作为对底层函数形式不确定性的度量。在此基础上,作者把原本固定宽度的保形区间扩展为结构区间:当候选方程彼此分歧较大时,预测区间相应加宽,从而提示哪些位置的预测更不可信。这一思路把不确定性从数值层面延伸到函数形式层面,回答的是“方程本身是否可能选错”。
覆盖表现与迁移性
实验结果显示,引入结构分歧后,该框架在保持分布内覆盖的同时明显提升了覆盖达成度,缓解了外推条件下区间失效的问题。作者还把它应用到其他符号回归方法上,观察到较好的泛化表现,说明结构区间的思路并不局限于某一种具体实现。论文提交于 2026 年 10 月 30 日,编号 arXiv:2610.42024,归类为 cs.LG 与 cs.AI。
为什么值得看
符号回归外推时“方程看着对、预测却错”是实际风险,用结构分歧判断何时该不信任方程,思路可直接借鉴。
大模型量化论文数据集
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
