MIT发文指大语言模型不具备真正推理能力
观点AI 评分 75/100MIT Technology Review待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
MIT发文指出，大语言模型的思维链并非独立推理机制，仍是基于下个标记预测的迭代。其不具备真正推理能力的原因有三：一是缺乏可审查的持久认知状态来系统修正假设与证据；二是知识与推理在神经网络权重中交织，无独立信念集；三是模型常事后编造推理路径，实际解题与汇报路径不符。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载思维链本质仍是预测
自ChatGPT问世后，仅靠语言流畅度无法满足实用需求，促使具备思考能力的模型出现。这类模型不再即时作答，而是生成中间步骤来分解问题、传递部分结果并影响后续推导，即思维链过程。尽管在数学和编程领域取得了真实收益，但该过程并未引入如AlphaGo搜索般真正独立的推理机制。其中间推理依然由相同的下个标记预测过程产生，仅在给出最终答案前进行了更长时间的迭代。
缺乏持久认知状态
模型无法像科学家那样推理的首要原因是缺乏显式、持久且可审查的认知状态。模型内部没有公开账本来列明正在考虑的假设、对各解释的置信度、权衡的证据以及悬而未决的问题。在真正推理中，这些要素理应随着新信息的到来而被系统性地修正，但当前模型并不具备这种动态修正机制。
知识与推理深度交织
模型无法合格推理的第二个原因在于，系统所知内容与其操纵该知识的方式之间缺乏清晰分离。在神经网络权重中，知识与推理被不可分割地交织在一起，不存在独立且显式表示的信念集合。这使得模型无法像传统推理系统那样，基于明确的知识基础进行逻辑推演。
常事后编造推导路径
第三个原因涉及思维链的真实性。虽然模型生成的思维链看似深思熟虑，但研究已证实，这些系统经常在事后捏造推导过程。模型可能通过一条路径得出答案，却汇报了另一条路径。这种实际解题路线与汇报路线的不一致，进一步证明了当前思维链并非真正的逻辑推理。
为什么值得看
揭示当前大模型思维链的本质缺陷，对评估其复杂任务可靠性与后续架构演进具有关键参考价值。
信源1 家
关键事实
相关 · 观点
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。