ThinkWorld:用世界想象强化动作推理的 VLA 框架

论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

研究者提出 ThinkWorld,一个把动作推理建立在世界动态之上的视觉-语言-动作(VLA)学习框架。它把每个动作思考表示为 Chain-of-Dynamics(CoD),即一串离散运动 token,刻画从当前世界到未来状态的中间动态,并作为跨具身通用的动作表示。先用带动作标注的示范初始化 CoD,再预测每个 CoD 引发的未来,对预测更贴合真实观测结果的 CoD 给予强化。这样,没有动作标注的视频也能从观测到的状态转移中提供直接监督,使人类视频与机器人经验共同打磨同一推理空间。仿真与真机实验显示,该框架能实现从人到机器人的迁移,并对未见任务与环境有较强泛化。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

要解决的问题

视觉-语言-动作模型在机器人操作上已有明显进展,但泛化能力受限于带动作标注的机器人示范在多样性和覆盖面上的不足。人类视频能提供更广的行为与环境经验,然而从这类视频学习存在一个根本矛盾:数据规模可以很大,动作层面的显式 grounding 却难以获得。ThinkWorld 的出发点就是在这个矛盾中找一条中间路径,让缺乏动作标签的视频仍然能对动作推理产生监督作用。

CoD 作为通用动作表示

框架把每一个动作思考写成 Chain-of-Dynamics,也就是一串离散的运动 token。这串 token 描述的是连接当前世界与未来状态的中间动态过程,而不是某个具体机器人平台上的关节指令。正因为描述的是动态而非平台相关动作,CoD 可以充当跨具身的共同动作表示,使人类视频中的行为与机器人示范落在同一个推理空间里被处理。

用世界想象做强化

训练分两步:先用带动作标注的示范为 CoD 提供初始化的监督;随后让模型对每个 CoD 预测其引发的未来,并把预测结果与真实观测到的结果比对,对更吻合的 CoD 给予强化。这样一来,即使视频没有动作标注,观测到的状态转移本身也能成为监督信号,人类经验与机器人经验因此可以共同改进同一套推理能力。

实验与适用范围

论文在仿真环境和真实机器人上都做了实验,报告的结果包括有效的人到机器人迁移,以及对未见任务和未见环境的较强泛化。材料未给出具体任务数量、成功率数值或对比基线,因此这些方面的量化结论需要回到原文查看。该工作归类于机器人学,同时涉及人工智能与计算机视觉方向。

为什么值得看

用无动作标注的人类视频为 VLA 提供监督,是缓解机器人数据稀缺的一条可复用思路,值得关注其跨具身表示设计。

信源1 家

  1. [1]arXiv cs.AI一手信源ThinkWorld: World Imagination Reinforces Chain-of-Dynamics Reasoning

关键事实

  • ThinkWorld 将动作思考表示为 Chain-of-Dynamics,即离散运动 token 序列,作为跨具身的通用动作表示[1]

  • 方法先用带动作标注的示范初始化 CoD,再对预测未来更贴合观测结果的 CoD 进行强化[1]

  • 该框架让无动作标注的视频通过观测状态转移提供直接监督[1]

  • 仿真与真机实验显示其可实现人到机器人的迁移,并泛化到未见任务与环境[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。