MATCH框架提升大模型工具调用能力
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载把课程难度交给策略自己定
MATCH 要解决的是工具调用训练中课程安排与策略能力脱节的问题。以往做法依赖固定阈值来划分样本难易,但策略在训练中不断变化,能力边界随之移动,固定阈值容易与真实水平错位。MATCH 的 Model-Aware Curriculum Learning 改为用奖励信号反推样本难度,让难度评估随策略一起演化。每个训练轮次里,它挑选靠近当前能力边界的样本,同时保留一个由更难案例组成的 top-k 池,使训练既不过易也不至于完全超出模型掌握范围。这一机制的关键在于难度不是预先标注的静态属性,而是由训练过程本身持续刷新,因此样本调度与策略优化保持同步。
奖励按层级逐级放行
另一处改动针对奖励设计。把工具名、参数键、参数值混在一起做加和式打分时,一旦预测的工具本身出错,参数层面的得分仍可能被计入,形成参数级信用的错误外泄。MATCH 提出的 Hierarchical Tool-call Gated Reward 把三者组织成一条门控链:工具名、参数键、参数值依次评分,只有前一级条件成立,后一级才被授予信用。这样错误工具不会连带获得参数分,奖励与实际调用质量更贴合。该奖励同时用于 GRPO 更新和 MACL 的难度刷新,使策略优化与样本调度共享同一信号来源,形成闭环。
两个基准上的成绩与适用范围
在 API-Bank 与 BFCL V3 上,MATCH 的整体准确率分别为 72.19% 和 62.87%,高于主要的监督式与基于强化学习的对照方案。作者还在来自两个模型家族的四个骨干模型上做了实验,结果均显示稳定提升,说明方法并非只对单一底座有效。需要留意的是,材料给出的评测范围限于这两个工具调用基准与上述骨干模型,其他任务类型与规模下的表现尚未在摘要中展开。对关注工具学习训练的读者而言,这项工作的意义在于把课程难度与奖励信用两处细节同时纳入闭环,而不是单独替换其中一环。
为什么值得看
解决了工具调用强化学习中的课程错位与奖励泄漏问题,显著提升准确率。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
