AI 圈大事记

UOPD方法提出:基于不确定性的多轮智能体在线蒸馏干预

论文AI 评分 65/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

多轮环境中,在线策略蒸馏(OPD)的学生模型在关键步犯错会导致后续轨迹恶化。UOPD依据教师对学生动作的置信度筛选高不确定步进行干预:低不确定步执行学生动作并施加常规OPD损失;高不确定步执行教师动作并以SFT方式让学生模仿,期望上最小化前向KL散度。该方法采用自适应阈值控制干预率。在ALFWorld、WebShop和Search任务上,UOPD优于常规OPD及其变体,WebShop得分较标准OPD最高提升15.8%。

为什么值得看

解决多轮智能体蒸馏中关键步失误导致的轨迹崩塌,用极简干预实现显著收益。

智能体蒸馏

信源1 家

  1. [1]arXiv cs.AI一手信源UOPD: Uncertainty-Aware Intervention for On-Policy Distillation of Multi-Turn Agents

关键事实

  • UOPD在学生动作高不确定步执行教师动作并以SFT训练学生,低不确定步执行常规OPD[1]

  • UOPD在WebShop任务上较标准OPD得分最高提升15.8%[1]

  • UOPD使用自适应不确定阈值来瞄准预定的干预率[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。