D&A:解耦描述与评估,让 VLM 零样本充当机器人奖励模型

论文AI 评分 72/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

这篇论文针对视觉语言模型在机器人任务进度估计中的确认偏误问题提出 D&A 方法:先让模型对场景动态生成客观的文本描述,再用显式评分标准做评估。它要求模型在打分前先写出对绝对成功的文本定义,从而把评价锚定在外部全局标准上,而不是视频内部的时间线。该方法完全基于提示词,无需额外训练,可跨任务、跨本体、跨基准泛化,效果与经过后训练的奖励模型持平或更好,其奖励估计还能用于下游强化学习。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

要解决的问题

论文指出,视觉语言模型虽被寄望用于机器人学习中的零样本视频任务进度估计,但现有框架常出现确认偏误:由于隐含的成功假设或相对时间排序的设计,模型会在失败的执行中虚构出进展。直接对前沿模型做朴素提示,结果会退化成二值成功检测器,无法刻画非线性的细微进度与失败。通过后训练可以缓解这一问题,但需要昂贵的真实机器人数据,且每换一个基座模型都要重新做计算密集的后训练。

方法怎么拆

D&A 把进度估计解耦为两个阶段。第一阶段是对场景动态做客观、任务相关的文本描述;第二阶段依据显式评分标准进行评估。关键在于,模型在打分之前必须先写出对绝对成功的文本定义,使评价锚定在外部全局标准上,而不是视频自身的时间线。这样做的结果是零样本估计得到校准,确认偏误被削弱,并能给出细粒度的部分进度指标:失败执行会被准确扣分,成功执行则能被正确插值。

适用范围与意义

由于完全基于提示词,D&A 不需要针对每个基座模型做后训练,可跨任务、跨本体与跨基准泛化,效果与经过后训练的奖励模型持平或更好。论文还报告其奖励估计能支撑高效的下游强化学习。对做机器人奖励建模的读者而言,这意味着一条不依赖昂贵真实机器人数据、也无需逐模型后训练的替代路径。

为什么值得看

不训练、只靠提示词就能让 VLM 给出细粒度机器人进度奖励,对做机器人强化学习与奖励建模的人有直接参考价值。

强化学习论文

信源1 家

  1. [1]arXiv cs.AI一手信源D&A: Decoupling Description and Assessment Enables VLMs as Zero-Shot Robotic Reward Models

关键事实

  • 现有 VLM 进度估计框架常因隐含成功假设或相对时间排序设计而出现确认偏误,在失败执行中虚构出进展[1]

  • D&A 把进度估计拆成两步:先对场景动态做客观文本描述,再用显式评分标准评估[1]

  • 该方法要求模型在打分前先写出绝对成功的文本定义,把评价锚定在外部全局标准而非视频内部时间线[1]

  • D&A 完全基于提示词,可跨任务、本体与基准泛化,效果与后训练奖励模型持平或更优[1]

  • 其奖励估计可用于下游强化学习[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。