CoDA:数据引擎与动作策略协同演化,提升机器人操作成功率

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇 arXiv 论文提出 CoDA 框架,让仿真数据引擎与动作策略通过共享异构记忆共同演化。该记忆把视觉语言批评器验证过的诊断编译成生成程序与训练程序,分别重建困难场景、帮助策略克服困难。作者还提出 Text2potential,将诊断转为分阶段势函数用于动作块价值学习,在标准塑形假设下保留任务最优策略。在四个操作任务族上,CoDA 将分布外成功率从监督微调后的 5.3% 提升到 27.6%,在相同生成预算下超过最强闭环基线 9.5 个百分点。在 LIBERO-Pro 上,15 轮生成与训练使位置扰动下成功率从 25% 升至 84%,指令扰动下从 1% 升至 76%。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

要解决什么问题

生成式仿真可以自动搭建机器人环境,但物理上成立的环境未必对训练有用。真正的难点在于找出能暴露策略失败的环境,以及能帮策略克服这些失败的监督信号。论文把这一挑战作为出发点,提出 CoDA 框架,让仿真数据引擎与动作策略共同演化。两者之间通过一份共享的异构记忆连接,记忆里保存环境构建、策略失败与学习进展三类信息,从而把「生成什么」和「怎么学」绑定在一起。

记忆如何驱动生成

这份共享记忆会把视觉语言批评器给出的、经过验证的诊断,编译成两类程序:生成程序负责重建策略曾经失败的困难场景,训练程序则帮助策略克服这些困难。学习进展的测量结果会反过来指导后续的生成与程序细化,形成闭环。这样,数据引擎不是盲目扩充环境数量,而是围绕策略当前的能力缺口来产出训练素材。

Text2potential 的作用

论文进一步提出 Text2potential,把上述诊断转换成用于动作块价值学习的分阶段势函数。这种转换提供的是密集监督,用于策略更新;在标准塑形假设下,它同时保留任务的最优策略。也就是说,引入额外监督信号的同时不改变任务本身的解,这一点对策略学习能否稳定收敛很关键。

量化结果

在四个操作任务族上,CoDA 把分布外成功率从监督微调后的 5.3% 提升到 27.6%,在相同生成预算下比最强的闭环基线高出 9.5 个百分点。在 LIBERO-Pro 基准上,15 轮生成与训练让位置扰动下的成功率从 25% 升到 84%,指令扰动下从 1% 升到 76%。这些数字覆盖了分布外与两类扰动场景,说明该框架在策略泛化方面有可测量的改善。

为什么值得看

用失败诊断驱动仿真数据生成,给出可量化的分布外与扰动场景成功率提升,对机器人策略训练方向有参考价值。

微调论文

信源1 家

  1. [1]arXiv cs.AI一手信源CoDA: Co-Evolution of Data Engines and Action Policies

关键事实

  • 论文提出 CoDA 框架,让仿真数据引擎与动作策略通过共享异构记忆共同演化。[1]

  • 记忆将视觉语言批评器验证过的诊断编译为生成程序与训练程序。[1]

  • Text2potential 把诊断转为分阶段势函数,用于动作块价值学习。[1]

  • 四个操作任务族上,分布外成功率从 5.3% 提升到 27.6%,超过最强闭环基线 9.5 个百分点。[1]

  • LIBERO-Pro 上 15 轮生成与训练使位置扰动成功率从 25% 到 84%,指令扰动从 1% 到 76%。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。