GeoState:解耦视角的几何状态用于3D世界建模

论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

该论文提出GeoState,一种面向预测式3D世界建模的视角解耦几何表示,把场景状态演化与相机相关观测分开。做法是场景分词器将多视角几何基础模型特征聚合为视角解耦的场景状态,几何解码器用相机射线查询该状态;自回归世界模型预测未来场景状态,相机运动单独建模。预测状态可在预测或外部指定相机下解码,并在整个推演中保持单一由上下文推导的尺度,无需逐帧尺度对齐。实验显示其在Waymo上优于此前3D世界模型,支持几何一致的跨视角查询,并零样本泛化到KITTI和nuScenes。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

视角依赖带来的预测难题

论文指出,近期3D世界模型越来越多地把几何基础模型(GFM)的特征当作预测用的世界状态,因为这类特征带有丰富的几何先验。但问题在于这些特征本身依赖视角,会把场景动态与相机引起的画面变化纠缠在一起,导致状态演化更难预测。GeoState的出发点就是把这两者拆开:让场景状态只描述场景自身的演化,把相机相关的观测单独处理,从而降低预测难度。

分词、解码与自回归预测

具体实现上,GeoState用一个场景分词器把多视角的GFM特征聚合成视角解耦的场景状态;几何解码器则通过相机射线去查询这一状态。在此之上,自回归世界模型负责预测未来的场景状态,相机运动被单独建模。这样得到的好处是,预测出的状态既可以在预测的相机参数下解码,也可以在外部指定的相机参数下解码,并且整个推演过程保持同一个由上下文推导出的尺度,不需要逐帧做尺度对齐。

实验表现与泛化范围

实验结果显示,GeoState在Waymo数据集上超过了此前的3D世界模型,同时支持几何一致的跨视角查询,也就是换一个视角去查询仍能保持几何上的一致性。此外,该方法还能零样本泛化到KITTI和nuScenes两个数据集,说明其学到的表示不局限于训练时的数据分布。论文提交于2026年10月15日,编号arXiv:2610.22343,涉及计算机视觉、人工智能、机器学习与机器人等方向。

为什么值得看

把相机视角变化从场景动态中剥离,让世界模型的状态预测更稳定,并支持换相机视角解码。

对齐论文

信源1 家

  1. [1]arXiv cs.AI一手信源GeoState: Learning View-Decoupled Geometry States for 3D World Modeling

关键事实

  • 论文提出GeoState,将场景状态演化与相机相关观测分离[1]

  • 场景分词器把多视角几何基础模型特征聚合为视角解耦的场景状态,几何解码器用相机射线查询[1]

  • 自回归世界模型预测未来场景状态,相机运动单独建模[1]

  • 在Waymo上优于此前3D世界模型,并零样本泛化到KITTI和nuScenes[1]

  • 推演中保持单一由上下文推导的尺度,无需逐帧尺度对齐[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。