研究诊断并改进视觉运动策略中的条件视觉定位

论文AI 评分 65/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

研究针对视觉运动模仿策略在引入相似干扰物时失效的问题,将其诊断为条件视觉定位缺陷。通过使用 Action Chunking with Transformers 模型进行系统测试,发现干扰敏感性与视觉相似性类型及操作阶段有关。研究评估了干扰增强、阶段相关注意力正则化和基于外观的视觉提示三种干预措施,在模拟环境和 UR3e 实体机器人上显著提升了鲁棒性。类似失败模式在预训练的视觉-语言-动作策略中也得到验证。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

把失败定位到抓取与放置

这项研究关注的是视觉运动模仿策略在一种特定情形下的失效:训练分布内的视觉条件下表现良好,一旦场景中出现外观相近的物体或容器,策略就会出错。作者把这一现象定义为条件视觉接地问题,即控制所需的视觉目标并非固定不变,而是随操作阶段变化;在更复杂的任务里,它还会随观察到的任务状态而变化。研究以 Action Chunking with Transformers(ACT)为实验载体,有系统地加入干扰物体与干扰容器,并对颜色相似度和形状相似度做受控设置,从而把失败位置锁定在抓取和放置两个环节。结果显示,策略对干扰物的敏感程度既取决于视觉相似的类型,也取决于所处的操作阶段,两者共同决定了错误在何时出现。

三类干预手段各有分工

在诊断结论的引导下,作者评估了三种可以相互补充的干预方式:干扰物增强、随阶段变化的注意力正则化,以及基于外观的视觉提示。三者的共同目标是让策略更准确地选中当前阶段真正需要操作的目标,同时不破坏控制所依赖的空间信息。实验表明,这些干预在仿真环境和一台实体 UR3e 上都带来了明显的鲁棒性提升。这一对比的意义在于,它没有把问题归为操作技能不足,而是把改进重点放在目标选择这一环节上,因此与单纯增加演示数据或调整底层控制的做法形成了区别。

跨策略范式的同类失效

作者还把同样的失败模式放到另一类策略上检验:一个预训练的视觉—语言—动作策略,执行的是由状态决定的器械操作任务,其中医疗器械被观察到的状态决定了正确的目的地。在这一设定下,视觉干扰同样会导致物体或目的地选错,尽管底层的操作技能本身仍然完好。综合两类实验可以看出,显式改善目标选择能够跨不同的视觉运动策略学习范式大幅恢复性能。对读者而言,这意味着在部署此类策略时,需要把外观相近的干扰物和阶段相关的目标切换纳入测试范围,而不能只以分布内表现为准。该工作以扩展摘要形式被 DexHAND Workshop, ECCV 2026 接收,属于非归档、非会议论文集,共 4 页、2 图、2 表。

为什么值得看

揭示了机器人视觉定位的失效机制,提供了提升实体机器人抗干扰能力的具体方案。

信源1 家

  1. [1]arXiv cs.AI一手信源What Matters, When? Diagnosing and Improving Conditional Visual Grounding in Visuomotor Imitation Policies

关键事实

  • 研究指出视觉运动策略在面对相似物体或容器时会失效,归因于条件视觉定位问题。[1]

  • 实验使用 ACT 模型引入颜色和形状受控的干扰物,定位到抓取和放置阶段的失败。[1]

  • 提出的干预措施在模拟环境和 UR3e 实体机器人上显著提升了鲁棒性。[1]

  • 研究在预训练的视觉-语言-动作策略中观察到了相同的失败模式。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。