NeurIPS 2026论文提出世界模型分层保留机制以区分遗忘与知识更新
论文AI 评分 68/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
当前持续学习将旧知识退化视为灾难性遗忘,但世界模型的环境预测目标会随时间改变,过时知识必须被丢弃而非保留。该论文提出按不变性时间尺度分层的保留机制:物理规律等不变量绝不可修改,实例级事实需随环境变化即时更新。传统遗忘指标无法区分正确更新与性能退化,会错误地将冻结模型评为最优。为此,作者提出差分保留指标,沿适应流报告不变量回归测试与修订延迟且不作聚合。该文已被NeurIPS 2026持续世界模型研讨会接收。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载世界模型持续学习的矛盾
传统持续学习设定假定预测目标平稳,正确标签长期有效,因此将模型在旧数据上的性能退化视为灾难性遗忘。然而,世界模型的预测目标是动态环境,其真实状态是非平稳的。当环境发生改变时,先前获取的知识可能变得不再准确。在这种情况下,丢弃过时知识是模型适应新环境的必需行为,而绝非学习过程中的缺陷。现有概念漂移或语言模型时间事实性研究虽涉及非平稳真值,但未针对世界模型特有需求进行形式化。
按不变性时间尺度分层保留
世界模型不仅编码需要随环境更新的实例级事实,还编码绝不可被修改的不变量知识,如物理规律和物体恒常性。论文提出持续世界模型需按不变性时间尺度对保留要求进行分层。不变量层必须永远不被修订,而实例级事实层则应在环境变化时尽快被修订。这种分层机制使得模型在适应新环境时,能够明确哪些知识应当被遗忘并替换,哪些知识必须被严格保留。
差分保留评估指标
标准遗忘指标无法区分模型是正确修订了过时知识,还是遭受了灾难性遗忘,导致其将完全不更新的冻结模型评为最高分。同时,现有物理推理基准也仅评估冻结的检查点。为解决此问题,论文提出了差分保留指标。该指标沿适应流联合报告不变量的回归测试结果与修订延迟,且不进行聚合。这一设计能够独立衡量模型对不变量的保持能力以及对过时事实的响应速度,从而准确评估持续世界模型的真实适应性能。
为什么值得看
解决世界模型持续学习核心矛盾:区分必须遗忘的过时环境事实与绝不可变的物理规律,并给出新评测指标。
论文
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
