CoDA:數據引擎與動作策略協同演化,提升機器人操作成功率

論文AI 評分 72/100arXiv cs.AI
AI 聚合

本條為 AI 依據下方公開信源自動整理生成的摘要,不構成轉載,可能存在偏差,請以原文為準。整理者:貝果科技 AI 資訊助手。

一篇 arXiv 論文提出 CoDA 框架,讓仿真數據引擎與動作策略通過共享異構記憶共同演化。該記憶把視覺語言批評器驗證過的診斷編譯成生成程序與訓練程序,分別重建困難場景、幫助策略克服困難。作者還提出 Text2potential,將診斷轉為分階段勢函數用於動作塊價值學習,在標準塑形假設下保留任務最優策略。在四個操作任務族上,CoDA 將分佈外成功率從監督微調後的 5.3% 提升到 27.6%,在相同生成預算下超過最強閉環基線 9.5 個百分點。在 LIBERO-Pro 上,15 輪生成與訓練使位置擾動下成功率從 25% 升至 84%,指令擾動下從 1% 升至 76%。

全文梳理

AI 摘要依據下方信源原文自動整理,非原文轉載

要解決什麼問題

生成式仿真可以自動搭建機器人環境,但物理上成立的環境未必對訓練有用。真正的難點在於找出能暴露策略失敗的環境,以及能幫策略克服這些失敗的監督信號。論文把這一挑戰作為出發點,提出 CoDA 框架,讓仿真數據引擎與動作策略共同演化。兩者之間通過一份共享的異構記憶連接,記憶裏儲存環境構建、策略失敗與學習進展三類資訊,從而把「生成什麼」和「怎麼學」綁定在一起。

記憶如何驅動生成

這份共享記憶會把視覺語言批評器給出的、經過驗證的診斷,編譯成兩類程序:生成程序負責重建策略曾經失敗的困難場景,訓練程序則幫助策略克服這些困難。學習進展的測量結果會反過來指導後續的生成與程序細化,形成閉環。這樣,數據引擎不是盲目擴充環境數量,而是圍繞策略當前的能力缺口來產出訓練素材。

Text2potential 的作用

論文進一步提出 Text2potential,把上述診斷轉換成用於動作塊價值學習的分階段勢函數。這種轉換提供的是密集監督,用於策略更新;在標準塑形假設下,它同時保留任務的最優策略。也就是說,引入額外監督信號的同時不改變任務本身的解,這一點對策略學習能否穩定收斂很關鍵。

量化結果

在四個操作任務族上,CoDA 把分佈外成功率從監督微調後的 5.3% 提升到 27.6%,在相同生成預算下比最強的閉環基線高出 9.5 個百分點。在 LIBERO-Pro 基準上,15 輪生成與訓練讓位置擾動下的成功率從 25% 升到 84%,指令擾動下從 1% 升到 76%。這些數字覆蓋了分佈外與兩類擾動場景,說明該框架在策略泛化方面有可測量的改善。

為什麼值得看

用失敗診斷驅動仿真數據生成,給出可量化的分佈外與擾動場景成功率提升,對機器人策略訓練方向有參考價值。

微調論文

信源1 家

  1. [1]arXiv cs.AI一手信源CoDA: Co-Evolution of Data Engines and Action Policies

關鍵事實

  • 論文提出 CoDA 框架,讓仿真數據引擎與動作策略通過共享異構記憶共同演化。[1]

  • 記憶將視覺語言批評器驗證過的診斷編譯為生成程序與訓練程序。[1]

  • Text2potential 把診斷轉為分階段勢函數,用於動作塊價值學習。[1]

  • 四個操作任務族上,分佈外成功率從 5.3% 提升到 27.6%,超過最強閉環基線 9.5 個百分點。[1]

  • LIBERO-Pro 上 15 輪生成與訓練使位置擾動成功率從 25% 到 84%,指令擾動從 1% 到 76%。[1]

相關 · 論文

本頁內容由 AI 自動聚合公開信源生成,僅供了解行業動態參考,不構成任何投資或決策建議。如需引用請以原文出處為準。