PyRUA-DataFarm 用 LLM 编码代理替代遥操作采集机器人数据

论文AI 评分 78/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

论文提出 DataFarm 方案:编码代理接收数据请求和一段目标场景的标定片段后,在仿真中重建任务,自行编写场景、专家控制器与成功判定器;仿真器给出精确动作,视频模型以真实图像为条件把每次 rollout 渲染成照片级视频,多路相机视图保持一致。产出为带动作标签的同步多视角数据,可直接训练策略并部署到真机,专家与每条渲染片段均经独立评审放行。五个真机任务上,仅用该数据训练的策略与等量遥操作数据训练的策略成功率相当(100 次试验 93 对 84),在未见过的桌布与彩色光照下保持 87 次成功,遥操作策略降至 46。任务适配全自动,平均 API 花费 21 美元、每任务一次性支付,渲染合约 5 美元,后续每条片段平均 0.80 美元,无需机器人与操作员;一小时三视角数据平均 107 美元。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

代理接管遥操作

论文要解决的问题是遥操作采集的固有开销:每一段演示都消耗机器人和操作员时间,换一个新任务又要从零开始。DataFarm 的做法是让编码代理接手操作员的角色。代理拿到一份数据请求,以及机器人在目标场景中的一段标定片段,随后在仿真里重建任务,具体产出三样东西:场景本身、一个专家控制器、一个成功判定器。仿真器因此能提供精确的动作标签,而不依赖人工示教。为了让数据接近真实画面,方案引入以真实图像为条件的视频模型,把每次 rollout 渲染成照片级视频,并且所有相机视图一起生成、彼此保持一致。最终输出是带机器人动作标签的同步多视角数据,策略可直接在其上训练并部署到真机。

评审与真机结果

数据进入训练集之前要过一道关:独立评审分别认证专家控制器和每一条渲染片段,通过后才被接纳。论文在五个真机任务上做了对比,只使用 farm 数据训练的策略,与使用同等数量遥操作片段训练的策略表现相当,100 次试验中分别为 93 次和 84 次成功。更值得注意的是分布外条件:在训练时未见过的桌布和彩色光照下,farm 策略仍保持 87 次成功,而遥操作数据训练的策略降到 46 次。这说明仿真重建加真实图像条件渲染的路线,在视觉扰动下没有像遥操作数据那样迅速失效。

成本账

论文给出了逐项成本。适配一个新任务完全自动,平均消耗 21 美元的 API 用量,按任务一次性支付,另加 5 美元的渲染合约费用。此后每多生成一条片段,仿真、渲染与评审合计平均 0.80 美元,且不再占用机器人和操作员。把上述费用都算进去,一个任务一小时的三视角数据平均花费 107 美元。论文将其与中国遥操作 117 美元的报价、北美单算人力 290 美元做了对照。对需要批量扩充任务与场景的团队来说,这一成本结构意味着边际成本主要落在算力与 API 上,而非人力排期。

为什么值得看

把机器人数据采集从人工遥操作转为代理自动生成,给出可核对的成本与真机成功率对比,值得关注数据成本结构的人一看。

API论文

信源1 家

  1. [1]arXiv cs.AI一手信源PyRUA-DataFarm: LLM Agent as a Cost-Efficient Teleoperator for Real-Ready Robot Data

关键事实

  • 代理接收数据请求与一段标定片段后,在仿真中编写场景、专家控制器和成功判定器[1]

  • 视频模型以真实图像为条件渲染 rollout,多路相机视图同步一致[1]

  • 五个真机任务中,farm 数据训练策略 100 次试验成功 93 次,遥操作数据为 84 次[1]

  • 未见过的桌布与彩色光照下,farm 策略成功 87 次,遥操作策略降至 46 次[1]

  • 任务适配平均 API 花费 21 美元,渲染合约 5 美元,后续每条片段平均 0.80 美元,一小时三视角数据平均 107 美元[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。