CoDA:数据引擎与动作策略协同演化,提升机器人操作成功率
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载要解决什么问题
生成式仿真可以自动搭建机器人环境,但物理上成立的环境未必对训练有用。真正的难点在于找出能暴露策略失败的环境,以及能帮策略克服这些失败的监督信号。论文把这一挑战作为出发点,提出 CoDA 框架,让仿真数据引擎与动作策略共同演化。两者之间通过一份共享的异构记忆连接,记忆里保存环境构建、策略失败与学习进展三类信息,从而把「生成什么」和「怎么学」绑定在一起。
记忆如何驱动生成
这份共享记忆会把视觉语言批评器给出的、经过验证的诊断,编译成两类程序:生成程序负责重建策略曾经失败的困难场景,训练程序则帮助策略克服这些困难。学习进展的测量结果会反过来指导后续的生成与程序细化,形成闭环。这样,数据引擎不是盲目扩充环境数量,而是围绕策略当前的能力缺口来产出训练素材。
Text2potential 的作用
论文进一步提出 Text2potential,把上述诊断转换成用于动作块价值学习的分阶段势函数。这种转换提供的是密集监督,用于策略更新;在标准塑形假设下,它同时保留任务的最优策略。也就是说,引入额外监督信号的同时不改变任务本身的解,这一点对策略学习能否稳定收敛很关键。
量化结果
在四个操作任务族上,CoDA 把分布外成功率从监督微调后的 5.3% 提升到 27.6%,在相同生成预算下比最强的闭环基线高出 9.5 个百分点。在 LIBERO-Pro 基准上,15 轮生成与训练让位置扰动下的成功率从 25% 升到 84%,指令扰动下从 1% 升到 76%。这些数字覆盖了分布外与两类扰动场景,说明该框架在策略泛化方面有可测量的改善。
为什么值得看
用失败诊断驱动仿真数据生成,给出可量化的分布外与扰动场景成功率提升,对机器人策略训练方向有参考价值。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
