ZAP:仅靠仿真训练的小模型机器人策略在真实任务达 96.7%

论文AI 评分 82/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

论文提出 Zero-real Agent Policy(ZAP),用一个现成的 27B 参数视觉语言模型,通过简单工具接口控制机器人。训练分两步:先用预训练模型建立对场景与任务的理解和推理,再用监督微调与 GRPO 在简单仿真任务上教它如何移动机器人。整个训练过程不使用任何真实机器人数据,ZAP 在真实任务上成功率 96.7%,在同一套工具接口下与 GPT-6 Astra 持平,高于 MolmoAct2 VLA 的 33.3%,运行速度快 3 倍、成本低 17 倍。它还能处理训练中未出现的物体、目标、策略与语言指令,例如把试管放入架中并按要求换孔、双臂空中交接试管、在井字棋盘上画 X、下棋,并可迁移到未见过的单臂 Franka 本体,在 RoboLab-120 上达到 55.9%,领先最强 VLA/WAM 基线 4.9 个百分点。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

方法:预训练加仿真微调

ZAP 把机器人策略拆成两件事:看懂场景里任务要什么,以及怎么让机器人动起来。作者的做法是直接取一个现成的 27B 参数视觉语言模型,用一套简单的工具接口把它接到机器人上,让模型通过调用工具来控制机器人。第一阶段依靠预训练模型已有的世界理解与推理能力,解决“任务是什么”的问题;第二阶段用监督微调和 GRPO,在简单的仿真任务上训练它“怎么动”。整个流程不采集真实机器人数据,训练信号全部来自仿真环境。

结果:真实任务与基线对比

在真实世界任务上,ZAP 的成功率为 96.7%,在同一套工具接口下与 GPT-6 Astra 持平。与专门的视觉语言动作模型 MolmoAct2 VLA 相比,后者成功率为 33.3%。除成功率外,作者还给出效率对比:ZAP 的运行速度是 GPT-6 Astra 的 3 倍,成本为其十七分之一。这些数字说明,小参数量的现成模型配合仿真训练,可以在该任务设定下达到与大型闭源模型相当的表现。

泛化:新目标与新本体

作者用几类训练数据里没有出现过的任务检验泛化:把试管放进架子,并在被要求时换一个孔位;双臂在空中交接试管;在井字棋盘上画 X;以及下棋。这些目标与操作类型都不在训练数据中,ZAP 仍能完成。除任务泛化外,作者还测试了本体迁移:换到未见过的单臂 Franka 上,ZAP 在 RoboLab-120 上取得 55.9% 的成绩,比表现最好的 VLA/WAM 基线高 4.9 个百分点,说明该方法不局限于训练时使用的机器人形态。

为什么值得看

不采集真实机器人数据也能获得高成功率,并给出与闭源大模型和 VLA 基线的直接对比,对做机器人策略与仿真训练的人有参考…

GPT微调论文

信源1 家

  1. [1]arXiv cs.AI一手信源Pretraining Knows What, Simulation Teaches How: Compositional Generalization in a Sim-Trained Robot Agent

关键事实

  • ZAP 使用预训练的 27B 参数视觉语言模型,经监督微调和 GRPO 在仿真任务上训练[1]

  • 训练全程不使用真实机器人数据,真实任务成功率 96.7%[1]

  • 同一工具接口下与 GPT-6 Astra 持平,高于 MolmoAct2 VLA 的 33.3%,速度快 3 倍、成本低 17 倍[1]

  • 可完成试管入架换孔、双臂空中交接试管、井字棋画 X、下棋等训练数据中未出现的目标[1]

  • 迁移到单臂 Franka 后在 RoboLab-120 上达 55.9%,领先最强 VLA/WAM 基线 4.9 个百分点[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。