SafeHarness提升机器人操控安全性
论文AI 评分 65/100arXiv cs.AI
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
研究指出现有编码代理在机器人操控中常忽视安全约束，导致碰撞。为此提出的SafeHarness框架，通过障碍物感知的路径规划和接触执行机制，强制模型优先考虑安全。实验显示，该方法任务成功率达71.9%，避碰率达87.5%，分别比原方案提升2.3倍和1.5倍，且超越此前最优模型。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载编码代理的安全隐患
编码代理通过让语言模型编写机器人控制器程序来操控设备，虽无需特定机器人知识，但其安全性存疑。研究在设定安全约束的条件下评估该代理，要求机器人在完成操控目标时不得触碰障碍物。结果显示，代理在大多数情况下会发生碰撞。尽管代理在推理过程中会考虑障碍物，且提示词明确禁止触碰，但失败根源在于规划环节，既定约束未能成为优先事项。
SafeHarness的解决方案
针对失败原因，研究将操控分解为路径阶段和接触丰富时刻，并提出了SafeHarness框架。该框架配备了两个障碍物感知机制：障碍物感知路径规划将物体视为边界框，并在其上绘制候选路线作为航点序列，使代理能预先规划、验证并在必要时重新规划路线；障碍物感知接触执行则选择接触位置，确保接触过程本身避开障碍物，从而强制模型优先满足安全约束。
性能提升显著
实验数据表明，SafeHarness在任务成功率和碰撞避免方面表现优异。该方法实现了71.9%的任务成功率和87.5%的避碰率。与未配备安全机制的同一代理相比，这两项指标分别达到了原来的2.3倍和1.5倍。此外，与此前最先进的技术相比，SafeHarness在任务成功率上高出6.5%，在避碰率上高出27.0%，证明了其在提升机器人操控安全性方面的有效性。
为什么值得看
解决了具身智能中代码生成代理忽视安全约束的痛点，大幅降低碰撞率。
安全
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。