arXiv 论文提出「框架坍塌」概念，评估 LLM 在信息不足的金融查询上的表现
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载问题设定与场景选择
论文关注的是金融助手中一类特殊提问：表面像事实性问题，实际答案取决于用户没有说出的前提，包括某个数据指标衡量的是什么、指的是哪个产品变体、投资者自身状况以及适用规则。作者把忽略这些前提、仍给出数据中真实数字却回答了另一个问题的现象称为「框架坍塌」。研究选择印度共同基金作为实验场景，理由是当地产品变体与税务规则都有正式定义，因此对每一种可能的解读都能算出唯一正确答案，便于判断模型是否答非所问。
三类实验与观察结果
研究为每种挑战设计一个实验。第一，给定一个标签含糊的数据，模型会直接使用它，且往往沿用用户给出的标签。第二，当所有备选都被标注清楚时，模型会把它们全部列出，但哪个排在前面由版面布局决定。第三，当缺少关于投资者的事实，能力较弱的智能体会假定一个默认值或套用过时的税务规则；即使任务要求必须先取得该事实，也不能保证模型真的使用它。作者强调，论文展示的是这些失败如何产生，而不是统计其出现频率。
现有校验为何失效
这类错误难以被现有检查发现，因为答案与模型所用数据一致，针对数据的核对会判定通过。AI 评审同样存在盲区：只有在被告知每个字段含义时，它才能识别标签错误的数字，而且仍会放过那些静默选择另一种解读的答案。换言之，数字正确并不等于问题被正确理解，常规的数据一致性检查无法覆盖语义层面的偏差。
论文定位与发表信息
论文提出针对金融助手的控制措施，但摘要未展开具体做法。该文被第 3 届 LLMs and Generative AI for Finance（AI4F）研讨会接收为口头报告，该研讨会随 ACM ICAIF '26 于 2026 年 11 月 14 日在米兰举行，论文为非存档性质，共 16 页、4 幅图，以 arXiv 预印本形式发布。
为什么值得看
金融问答的正确性不只取决于数字是否来自数据，还取决于是否回答了用户真正的问题；该文给出可复现的失败模式与校验思路。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。