DSP 框架:用幾分鐘人類玩耍數據訓練機器人靈巧操作

論文AI 評分 78/100arXiv cs.AI
AI 聚合

本條為 AI 依據下方公開信源自動整理生成的摘要,不構成轉載,可能存在偏差,請以原文為準。整理者:貝果科技 AI 資訊助手。

一篇投稿於 arXiv 的論文提出 DSP(Dexterity from supervised play)框架:機器人先通過行為克隆,從數分鐘人類玩耍數據中學到一個玩耍策略,再自主部署該策略收集數小時交互數據,用於訓練世界模型。推理階段,同一玩耍策略為模型預測控制(MPC)提出候選動作序列,交由世界模型評估。為加快推理,作者還提出在學習到的世界模型內通過自博弈蒸餾出閉環、目標條件策略。在欠驅動推動與多指手任意到任意手內姿態重定向任務上,仿真與真機均做了評估。真機實驗中,該方法成功率比 hindsight 行為克隆高 69.6%,並以少 490 倍的交互數據達到與強化學習相當的成功率。

全文梳理

AI 摘要依據下方信源原文自動整理,非原文轉載

從玩耍到自主數據收集

論文關注的問題是機器人如何自主獲取學習靈巧操作所需的接觸豐富經驗。作者給出的方案是 DSP:先讓機器人通過行為克隆,從數分鐘的人類玩耍數據中學到一個玩耍策略;隨後機器人自主部署這個策略,持續收集數小時的交互數據,用這些數據訓練世界模型。這一流程的關鍵在於把人類示範壓縮到很短的玩耍片段,把大量數據採集交給機器人自己完成,從而繞開逐任務示範的採集成本。論文在摘要中強調,整個流程不需要任何任務專屬示範,也不需要仿真到真實的遷移。

推理與加速方式

在推理階段,同一個玩耍策略被用來為模型預測控制提供候選動作序列,這些候選序列再放到已學到的世界模型下進行評估,由模型預測控制挑選動作。為了讓推理更快,作者另外提出一種方法:在學習到的世界模型內部通過自博弈,蒸餾出一個閉環的、以目標為條件的策略。這樣既保留了世界模型評估候選動作的機制,又通過蒸餾得到的策略降低在線推理的開銷。

評測任務與真機結果

作者在兩類任務上評估該框架:欠驅動推動,以及用多指手完成任意到任意的手內姿態重定向,評測同時覆蓋仿真與真實世界。真機實驗中,該方法在成功率上比 hindsight 行為克隆高出 69.6%;同時,它以比強化學習少 490 倍的交互數據,達到了與強化學習相當的成功率。論文作者認為,這些結果說明監督式玩耍既能自主收集交互數據,也能引導基於模型的規劃,並在沒有任務專屬示範、沒有仿真到真實遷移的條件下完成策略學習。

為什麼值得看

用幾分鐘人類玩耍數據替代大量任務示範與強化學習交互,真機成功率提升 69.6%、交互數據少 490 倍,值得機器人學習…

強化學習蒸餾論文

信源1 家

  1. [1]arXiv cs.AI一手信源Dexterity from Supervised Play

關鍵事實

  • 論文提出 DSP 框架:機器人通過行為克隆從數分鐘人類玩耍數據學得玩耍策略,再自主收集數小時交互數據訓練世界模型[1]

  • 推理時同一玩耍策略為模型預測控制提出候選動作序列,由世界模型評估[1]

  • 作者提出在學習到的世界模型內通過自博弈蒸餾閉環、目標條件策略以加速推理[1]

  • 在欠驅動推動與多指手任意到任意手內姿態重定向任務上,於仿真和真機評估[1]

  • 真機實驗中成功率比 hindsight 行為克隆高 69.6%,並以少 490 倍交互數據達到與強化學習相當的成功率[1]

相關 · 論文

本頁內容由 AI 自動聚合公開信源生成,僅供了解行業動態參考,不構成任何投資或決策建議。如需引用請以原文出處為準。