CSWAM 模型提升世界动作模型分布外泛化能力

论文AI 评分 65/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

CSWAM 模型通过引入基于 V-JEPA 2.1 的因果语义专家,解决了 FastWAM 在视觉分布偏移下泛化性差的问题。该方法利用因果注意力机制共享历史上下文,在保持高效动作推理的同时,显著提升了模型对未见场景的适应性。在 RoboTwin 2.0 的 Clean-to-Randomized 迁移任务中,成功率从 10.16% 提升至 45.18%;在真实机器人任务中,平均成功率从 27.5% 提升至 70.0%。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

动作推理为何失准

FastWAM 这类世界动作模型把推理过程压缩到只依赖动作,省去了逐步重建画面的开销,因此在效率上有优势。问题出在表征的学习目标上:训练时以重建为导向,模型会把大量容量分配给与外观强相关的细节,比如纹理、颜色和光照。这些细节在训练场景里稳定,一旦视觉分布发生偏移,它们就变成噪声,模型对未见过的场景和物体便难以给出正确动作。另一个缺口来自输入形式——模型不保留观察历史,只凭当前帧做判断,缺少时间维度上的证据,很难稳定区分哪些状态变化与任务真正相关,哪些只是画面抖动或运动带来的干扰。

因果语义替代外观

CSWAM 的思路是把表征从外观细节转向因果语义。它不再让模型去拟合像素级的重建目标,而是要求学到的特征承载与动作后果相关的语义信息,使同一任务在不同外观下呈现出一致的内部表示。这样做的直接效果是,当测试场景的视觉统计与训练时不同,模型依赖的是任务结构而非表面纹理,泛化边界因此向外扩展。与 FastWAM 相比,两者都保留了仅动作推理的轻量路径,差别在于训练信号约束的对象不同:前者约束像素还原,后者约束语义一致性。这也意味着 CSWAM 的收益主要体现在分布偏移条件下,在训练分布内两者表现可能接近。

适用范围与代价

从材料给出的定位看,CSWAM 针对的是视觉分布偏移下的泛化问题,适用对象是那些需要在不熟悉场景和物体上执行动作的世界动作模型。它的限制同样明确:方法本身仍建立在仅动作推理的框架内,并未引入额外的观察历史通道,因此对时序证据缺失这一问题的处理程度,材料没有给出结论。对读者而言,这项工作的意义在于指出了一条可操作的改进方向——把训练目标从还原外观改为对齐因果语义,可以在不改变推理形态的前提下提升跨场景稳定性。实际部署时,若目标环境与训练数据的视觉差异较大,这类表征调整比单纯扩充数据更值得优先考虑。

为什么值得看

大幅提升机器人在视觉环境变化下的任务成功率,解决泛化难题。

信源1 家

  1. [1]arXiv cs.AI一手信源CSWAM: Better Causal Semantic Representations for Out-of-Distribution Generalization in World Action Models

关键事实

  • CSWAM 引入基于 V-JEPA 2.1 的因果语义专家以增强泛化性。[1]

  • RoboTwin 2.0 迁移任务成功率从 10.16% 提升至 45.18%。[1]

  • 真实机器人任务平均成功率从 27.5% 提升至 70.0%。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。