CuraEval 框架评估混合技能机器人演示数据筛选方法

论文AI 评分 62/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

研究者提出 CuraEval 框架,用数学分析与受控对比检验机器人模仿学习中的演示筛选方法。分析显示,被评估的 PSD 分数只取决于回合长度和位置幅值平方,在 square 任务上与回合长度的排序几乎一致(ρ=0.999)。使用 Diffusion Policy 时,保留最短的 50% 演示使 square 成功率从随机选择的 70.7% 升至 76.5%;而几何熵 LOO 选择器在 can 任务保留 25% 数据时,成功率从 94.7% 降至 74.0%。经 Holm 校正后,没有任何筛选条件显著优于全量数据训练。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

评分与长度高度重合

CuraEval 把演示评分的数学分析与受控对照实验放在同一个框架里。作者对 PSD 分数做了推导,发现该分数实际只由回合长度和位置幅值的平方决定;在 square 任务上,它给出的排序与直接按回合长度排序几乎一致,相关系数达到 0.999。这一结果说明,某些看起来在衡量数据质量的分数,其排序能力可能主要来自回合长度这一项。框架同时设定了两类对照:一是与规模匹配的固定随机子集比较,二是与全量数据训练比较,从而避免不同筛选与评估协议之间难以横向判断的问题。实验数据来自混合技能水平的 robomimic 数据集,策略侧使用 Diffusion Policy 与 BC-RNN 两种方案。

短演示筛选的收益

在 Diffusion Policy 上,按回合长度保留较短的那部分演示,square 任务的成功率高于随机挑选同样数量演示的做法。作者据此把长度作为一条简单基线,用来检验更复杂的筛选器是否真的带来增量。与之对照,作者改造了几何熵留一法选择器,在只保留四分之一演示时,它在 can 任务上的成功率反而低于随机选择,在 square 上也低于三个各自独立采样的随机子集所达到的成功率区间。这说明在混合技能数据上,按多样性或影响力打分的选择器未必稳定胜过随机抽样,评估协议不统一会让这类方法的优势难以确认。

换评估设置后结论翻转

作者还考察了评估流程本身对结论的影响。在 square 任务、同一组三个 Diffusion Policy 训练种子上,按长度保留较多演示在原始协议下相对全量数据训练有提升;但当检查点上报方式、rollout 次数与评估种子一起改动后,这一提升消失并转为略低。经过 Holm 校正后,没有任何被评估的筛选条件显著优于全量数据训练,不过置信区间仍为可能存在真实增益留出空间。论文共 10 页,含 2 张图与 2 张表,代码已公开,并被 CoRL 2026 的 Workshop“Oops, I Erred”接收。

为什么值得看

对做机器人模仿学习与数据筛选的人,这是一份提醒:常见打分指标可能只是长度的代理,筛选收益需严格对照随机与全量基线。

论文

信源1 家

  1. [1]arXiv cs.AI一手信源CuraEval: Evaluating Demonstration Curation on Mixed-Skill Robot Data

关键事实

  • PSD 分数只依赖回合长度与位置幅值平方,在 square 任务上与回合长度排序相关系数为 0.999[1]

  • Diffusion Policy 下保留最短 50% 演示,square 成功率由随机选择的 70.7% 提升到 76.5%[1]

  • 几何熵 LOO 选择器在 can 任务保留 25% 数据时,成功率从 94.7% 降到 74.0%[1]

  • 经 Holm 校正后,没有筛选条件显著优于全量数据训练[1]

  • 论文被 CoRL 2026 Workshop "Oops, I Erred" 接收,共 10 页、2 图、2 表[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。