Dual-Frontier原则解决智能体世界模型信任归因难题
论文AI 评分 68/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
智能体依赖世界模型规划时，若决策失败，仅凭轨迹无法判定是决策规则还是模型出错。该论文将此失败归因形式化为收益损失的反事实分解，证明其组件在被动交互中不可识别。为此提出Dual-Frontier学习原则：仅当预测优势超过决策相关模型误差的认证边界时，才采纳模型引导的决策，否则将证据分配给模型验证。动作条件价值边界与闭环扩展保证采纳决策的收益非递减。校准门与同步置信序列支持自适应证据复用。在跨骨干工具使用基准测试中，该验证后提升规则持续改善了决策质量与可靠性。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载失败归因不可识别性
学习得到的世界模型对通用智能体至关重要，能预测动作后果以支持规划并减少试错成本。然而这种依赖产生了根本性歧义：当基于世界模型的决策失败时，仅凭交互轨迹无法揭示究竟是智能体的决策规则还是世界模型本身导致了损失。论文将此失败归因问题形式化为收益损失的反事实分解，并从数学上证明，即使是有限视野规划器，其分解组件在被动交互中也是不可识别的。
Dual-Frontier学习原则
针对上述阻碍，论文提出Dual-Frontier学习原则。其核心逻辑是验证后提升：仅当世界模型预测的动作优势超过了决策相关世界模型误差的认证边界时，才采纳该模型引导的决策；否则，将证据分配给世界模型验证。通过引入动作条件价值边界与闭环扩展，该原则能保证被采纳决策的收益非递减。同时，利用校准门与同步置信序列，支持自适应的证据复用，并提供了充分且必要的验证边界。
实验验证与效果
在受控的学习模型实验中，该研究验证了预测的失败模式与认证行为。进一步，在跨骨干的工具使用基准测试中，将相同的验证后提升规则应用于真实的智能体世界模型管线。实验结果表明，该方法能够一致地提升决策质量与可靠性，证明了Dual-Frontier原则在解决智能体何时信任其世界模型这一问题上的实际有效性。
为什么值得看
解决智能体规划失败时无法定位根因的痛点，提供何时信任世界模型的数学边界与验证机制。
智能体基准测试论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。