研究质疑LLM多智能体语境学习具备递归推理能力
论文AI 评分 65/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
一项研究通过构建公共物品博弈并操纵历史反馈的统计结构，评估大语言模型在多智能体不完全信息博弈中的表现。实验显示，当历史统计模式被打破时，长上下文带来的收益基本消失，决策质量退化为无上下文基线。结果表明，在此类策略环境中，上下文学习行为更符合统计外推而非策略推理。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载实验设计与基准
研究旨在探究大语言模型的上下文学习（ICL）能力究竟是源于内部推理的优化，还是仅仅基于统计模式的外推。为此，作者构建了一个公共物品博弈，并引入了多智能体不完全信息游戏的设定，这种环境通常需要递归信念推理。为了区分推理与外推机制，研究引入了理性预期均衡（REE）作为基准，通过操纵历史反馈的统计结构来评估决策质量，以此判断模型是否真正具备策略性思考能力。
统计模式的影响
实验结果揭示了模型对历史统计模式的强依赖性。当历史反馈中的统计规律被人为打破时，利用长上下文所带来的性能提升几乎完全消失。在这种情况下，模型的决策质量显著下降，甚至跌落至不使用任何上下文信息的基线水平。这种性能的退化在策略相互依赖性更强的场景中表现得尤为剧烈，表明模型在处理策略互动时，可能并没有进行真正的递归推理，而是在拟合数据分布。
结论与工具贡献
基于上述发现，研究得出结论：在多智能体策略环境中，大语言模型的上下文学习行为更倾向于统计外推，而非真正的策略推理。这项工作不仅将ICL的机制性研究扩展到了多智能体策略设定中，还提出了理性预期均衡作为一种诊断工具，用于有效区分推理与外推行为。此外，该研究提供了一个可复用的框架，用于探测大语言模型在递归信念任务中的推理边界。
为什么值得看
揭示了LLM在复杂策略场景中可能只是做统计拟合，而非真正的逻辑推理。
智能体
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。