arXiv 论文区分 LLM 心智理论中的「显式」与「应用」能力

论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇 arXiv 论文指出,现有 Theory of Mind 基准给出的总分把两种能力混在一起:识别他人持有什么信念(显式),以及用该信念预测行为(应用)。作者用四个结构不同的基准测量这一落差。在 SimpleToM 上,Llama-3.1-8B 总分为 51.5%,其中识别心理状态达 99.4%,预测行为仅 28.9%。为考察这种落差能否弥补,作者比较了结构化提示、匹配的上下文学习,以及提出的 Belief-State Test-Time Training(BSTTT):后者通过动作重建,在已作答的支撑问题上调整轻量参数。在 Qwen2.5-7B、Llama-3.1-8B、GPT-oss-20B 上,恢复效果取决于模型、任务与干预方式。SimpleToM 上,提示提醒加 BSTTT 使 Llama 的行为预测提升 40.8 个百分点,其中提醒贡献了大部分,BSTTT 在提醒之上再增加…

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

把心智能力拆成两层

这篇论文把大模型的心智理论能力拆成两个层次来看。一层是显式心智理论,指模型能识别出某人持有什么信念;另一层是应用心智理论,指模型能把这种信念用于预测该人的行为。作者认为,现有的心智理论评测通常只给出一个汇总分数,而这个分数把上述两种能力混在一起,看不出模型究竟强在哪一层、弱在哪一层。研究围绕这一区分展开,考察两层能力之间的落差有多大,以及这种落差能否被补救。为覆盖不同结构,作者选用了四个基准进行测试,而不是依赖单一题库。论文指出,汇总式报告会掩盖能力分布不均的情况:模型在识别心理状态上表现很好,在据此推断行为时却明显落后,单看总分无法暴露这种不对称。

三种干预方式的对照

在评估落差能否恢复时,作者比较了三类做法。第一类是结构化提示,即在提问中加入引导性提醒;第二类是与任务匹配的上下文学习,也就是在输入中放入示例;第三类是作者提出的信念状态测试时训练(BSTTT),其做法是在已作答的支撑性问题上调整轻量参数,并通过动作重建来完成适配。测试覆盖 Qwen2.5-7B、Llama-3.1-8B 和 GPT-oss-20B 三个模型。结果显示,恢复效果并不统一,取决于具体模型、具体任务和具体干预手段。在 SimpleToM 上,提醒与 BSTTT 结合后,Llama 的行为预测提升幅度最大;从各模型的整体情况看,提升主要来自提醒,BSTTT 在提醒之外还能再贡献一部分增益。上下文示例在不少情况下优于直接更新权重,而 BSTTT 在某些模型与基准的组合中更强。

时间维度仍是难点

论文还考察了随时间变化追踪信念的能力。作者指出,即便部分落差可以通过针对性辅助弥补,这类时间性的信念追踪依然困难,恢复只是局部的。这一结果说明,汇总分数可能高估模型在实际应用中的能力,同时又把那些通过定向帮助就能改善的表现掩盖起来。基于这些发现,作者建议评测报告应当把显式准确率和应用准确率分开呈现,并同时给出不同干预手段的对照结果,从而判断哪些失败是可以恢复的、在什么条件下可以恢复。论文提交于 2026 年 10 月 22 日,作者为 Prajvi Saxena、Sabine Janzen 和 Wolfgang Maass,编号 arXiv:2610.31060,属于 cs.AI 分类。

为什么值得看

总分掩盖了模型「看得懂却用不上」的短板,论文给出可复现的拆分测法与干预对比。

GPTLlamaQwen论文

信源1 家

  1. [1]arXiv cs.AI一手信源Diagnosing the Explicit-to-Applied Theory of Mind Gap in LLMs

关键事实

  • 论文区分显式心智理论(识别他人信念)与应用心智理论(用信念预测行为),认为现有基准的总分把两者混在一起[1]

  • 在 SimpleToM 上,Llama-3.1-8B 总分为 51.5%,识别心理状态为 99.4%,预测行为仅 28.9%[1]

  • 作者提出 Belief-State Test-Time Training(BSTTT),通过动作重建在已作答的支撑问题上调整轻量参数[1]

  • SimpleToM 上,提示提醒加 BSTTT 使 Llama 的行为预测提升 40.8 个百分点,BSTTT 在提醒之上再增加 1.3 至 5.5 个百分点[1]

  • 实验覆盖 Qwen2.5-7B、Llama-3.1-8B、GPT-oss-20B,恢复效果随模型、任务与干预方式变化[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。