PROMO实现四足机器人多目标强化学习运行时偏好调节

论文AI 评分 65/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

针对四足机器人运动需平衡指令跟踪、稳定性与能效等冲突目标,PROMO提出将多目标权衡作为运行时输入的单策略方法。该方法将操作意图与步态生成所需的奖励塑形分离。仿真中百组偏好采样下,67种行为符合精确帕累托支配,偏好与目标均值相关性达0.843。该策略零样本迁移至Unitree Go2,仅调偏好即相对均衡偏好最多降30.4%比能耗、38.7%位置误差及59.0%姿态偏差,代码已开源于arXiv:2610.01260。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

把偏好变成运行时输入

传统四足机器人运动控制的做法,是在训练阶段就把指令跟踪、稳定性与能耗等相互冲突的目标折算成一个固定的标量奖励,优先级一旦写死,部署后很难调整。PROMO 换了一种思路:它把这种取舍做成策略运行时可传入的语义化偏好,由操作者在使用时给出,而不是在训练时固化。与此同时,与具体机体相关的运动先验保持固定,不随偏好变化。这样做的目的是把操作者的意图与生成可行步态所需的奖励塑形项分开处理,让同一个策略在不同偏好下表现出不同侧重。

单策略覆盖百种偏好

在仿真环境中,研究者采样了 100 组偏好来检验策略的响应范围。按精确帕累托支配关系判断,其中 67 种行为处于非支配状态,说明这些解之间不存在一方全面优于另一方的情况;偏好与目标之间的平均相关系数为 0.843,意味着调整偏好能够较为可预期地带来对应目标的变化。与固定目标控制器、多目标基线以及分别针对单一目标独立训练的专业策略相比,PROMO 用同一个可部署策略同时实现了目标专门化与鲁棒性,而不需要为每种偏好各训练一个模型。

迁移到实体后的变化

同一个策略被零样本迁移到 Unitree Go2 上,即不做额外微调直接部署。在实体平台上,仅改变偏好这一项操作,就能让特定能耗最多下降 30.4%,位置误差最多下降 38.7%,机体姿态峰值偏差最多下降 59.0%,这些对比的基准是均衡偏好下的表现。这组数据说明偏好接口在真实硬件上依然有效,操作者可以通过调整偏好在能耗、跟踪精度与姿态平稳之间做取舍。研究方将代码与视频开源,论文投稿至 IEEE Transactions on Robotics。

为什么值得看

单策略实现运行时动态权衡多目标,零样本迁移实体机降耗减差,为自适应足式运动提供实用接口。

强化学习论文

信源1 家

  1. [1]arXiv cs.AI一手信源PROMO: Preference-conditioned Multi-Objective Reinforcement Learning for Quadrupedal Robots

关键事实

  • PROMO将多目标权衡作为运行时输入,分离操作意图与步态生成的奖励塑形项。[1]

  • 仿真百组偏好采样中,67种行为受精确帕累托支配,偏好与目标均值相关性为0.843。[1]

  • 策略零样本迁移至Unitree Go2,调偏好最多降30.4%比能耗、38.7%位置误差及59.0%姿态偏差。[1]

  • 论文代码已开源,提交至IEEE Transactions on Robotics,arXiv编号2610.01260。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。