DSP 框架:用几分钟人类玩耍数据训练机器人灵巧操作

论文AI 评分 78/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇投稿于 arXiv 的论文提出 DSP(Dexterity from supervised play)框架:机器人先通过行为克隆,从数分钟人类玩耍数据中学到一个玩耍策略,再自主部署该策略收集数小时交互数据,用于训练世界模型。推理阶段,同一玩耍策略为模型预测控制(MPC)提出候选动作序列,交由世界模型评估。为加快推理,作者还提出在学习到的世界模型内通过自博弈蒸馏出闭环、目标条件策略。在欠驱动推动与多指手任意到任意手内姿态重定向任务上,仿真与真机均做了评估。真机实验中,该方法成功率比 hindsight 行为克隆高 69.6%,并以少 490 倍的交互数据达到与强化学习相当的成功率。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

从玩耍到自主数据收集

论文关注的问题是机器人如何自主获取学习灵巧操作所需的接触丰富经验。作者给出的方案是 DSP:先让机器人通过行为克隆,从数分钟的人类玩耍数据中学到一个玩耍策略;随后机器人自主部署这个策略,持续收集数小时的交互数据,用这些数据训练世界模型。这一流程的关键在于把人类示范压缩到很短的玩耍片段,把大量数据采集交给机器人自己完成,从而绕开逐任务示范的采集成本。论文在摘要中强调,整个流程不需要任何任务专属示范,也不需要仿真到真实的迁移。

推理与加速方式

在推理阶段,同一个玩耍策略被用来为模型预测控制提供候选动作序列,这些候选序列再放到已学到的世界模型下进行评估,由模型预测控制挑选动作。为了让推理更快,作者另外提出一种方法:在学习到的世界模型内部通过自博弈,蒸馏出一个闭环的、以目标为条件的策略。这样既保留了世界模型评估候选动作的机制,又通过蒸馏得到的策略降低在线推理的开销。

评测任务与真机结果

作者在两类任务上评估该框架:欠驱动推动,以及用多指手完成任意到任意的手内姿态重定向,评测同时覆盖仿真与真实世界。真机实验中,该方法在成功率上比 hindsight 行为克隆高出 69.6%;同时,它以比强化学习少 490 倍的交互数据,达到了与强化学习相当的成功率。论文作者认为,这些结果说明监督式玩耍既能自主收集交互数据,也能引导基于模型的规划,并在没有任务专属示范、没有仿真到真实迁移的条件下完成策略学习。

为什么值得看

用几分钟人类玩耍数据替代大量任务示范与强化学习交互,真机成功率提升 69.6%、交互数据少 490 倍,值得机器人学习…

强化学习蒸馏论文

信源1 家

  1. [1]arXiv cs.AI一手信源Dexterity from Supervised Play

关键事实

  • 论文提出 DSP 框架:机器人通过行为克隆从数分钟人类玩耍数据学得玩耍策略,再自主收集数小时交互数据训练世界模型[1]

  • 推理时同一玩耍策略为模型预测控制提出候选动作序列,由世界模型评估[1]

  • 作者提出在学习到的世界模型内通过自博弈蒸馏闭环、目标条件策略以加速推理[1]

  • 在欠驱动推动与多指手任意到任意手内姿态重定向任务上,于仿真和真机评估[1]

  • 真机实验中成功率比 hindsight 行为克隆高 69.6%,并以少 490 倍交互数据达到与强化学习相当的成功率[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。