arXiv 论文提出 Concat IDM,用动作可预测性提升潜世界模型规划成…

论文AI 评分 68/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇投稿于 arXiv cs.AI 的论文研究潜世界模型中的内在动力学学习,即动作与其后果之间的关系。作者提出,与底层控制无关的视觉变化会干扰表征中的这一关系,并假设鼓励动作可预测性可避免表征丢弃不同动作及其后果的区分。理论方面,作者推导出当编码器把同一状态与外观下不同动作的可区分结果合并时,平方逆预测误差存在正下界,而前向预测在这些转移上仍可精确。实证方面,作者通过外观多样性对照、监督干预和潜空间探针支持动作预测在保留控制相关转移信息中的作用。方法上以 Concat IDM 实现动作可预测性,从拼接的潜状态预测动作,并利用离线轨迹中已有的动作标签更新共享编码器,不改变测试时的规划器。在 Push-T 的 24 种外观设置下三次独立训练中,规划成功率从 9.1% 提升到 77.2%,配对提升比单一外观下高出 52.9 个百分点。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

问题与核心假设

论文关注潜世界模型中的内在动力学,也就是动作与其后果之间的关系。作者指出,与底层控制过程无关的视觉变化会在学习到的表征中掩盖这种关系。为此,作者考察动作可预测性与内在动力学保留之间的联系,把动作可预测性定义为从连续潜状态重建动作的能力。其核心假设是:鼓励动作可预测性,会阻止表征丢弃不同动作及其后果之间的区分。作者从理论与实证两方面为这一联系提供证据,并据此提出具体实现方法。

理论与实证证据

理论部分,作者推导出当编码器把同一状态与外观下不同动作的可区分结果合并时,平方逆预测误差存在正下界,同时说明前向预测在这些转移上仍可保持精确。实证部分,作者采用三类手段:受控的外观多样性比较、监督干预以及潜空间探针,结果都支持动作预测在保留控制相关转移信息方面的作用。这些证据共同支撑作者把动作可预测性视为指向内在动力学的归纳偏置。

Concat IDM 与实验结果

作者用 Concat IDM 实例化动作可预测性:它从拼接的潜状态预测动作,并利用离线轨迹中已经存在的动作标签更新共享编码器,测试时的规划器保持不变。在 Push-T 的 24 种外观设置下进行三次独立训练,Concat IDM 把规划成功率从 9.1% 提高到 77.2%;这一配对提升比单一外观下观察到的提升高出 52.9 个百分点。论文共 12 页、5 幅图,作者认为这些发现既支持动作可预测性作为归纳偏置,也展示了 Concat IDM 在视觉多样性下用于潜空间规划的实际收益。

为什么值得看

给出动作可预测性作为归纳偏置的具体机制与量化收益,对做潜空间规划与表征学习的研究者有直接参考价值。

论文

信源1 家

  1. [1]arXiv cs.AI一手信源Learning Intrinsic Dynamics in Latent World Models

关键事实

  • 论文标题为 Learning Intrinsic Dynamics in Latent World Models,作者包括 Jiamin Shi、Yuanhong Zhang、Zhiyang Liu、Jiawei Sun、Jingwen …[1]

  • 作者推导出当编码器合并同一状态与外观下不同动作的可区分结果时,平方逆预测误差存在正下界,且前向预测在这些转移上仍可精确。[1]

  • Concat IDM 从拼接的潜状态预测动作,用离线轨迹中已有的动作标签更新共享编码器,测试时规划器不变。[1]

  • 在 Push-T 的 24 种外观设置下三次独立训练中,规划成功率从 9.1% 提升到 77.2%。[1]

  • 该配对提升比单一外观下观察到的提升高 52.9 个百分点。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。