MATCH框架提升大模型工具调用能力

论文AI 评分 65/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

MATCH框架通过模型感知课程学习和分层门控奖励优化大模型工具调用。课程学习根据策略动态调整样本难度,分层奖励机制确保只有在工具名称正确时才评估参数。在API-Bank和BFCL V3测试中,该方法分别达到72.19%和62.87%的准确率,优于监督学习与强化学习基线,并在四种模型骨干上验证了效果。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

把课程难度交给策略自己定

MATCH 要解决的是工具调用训练中课程安排与策略能力脱节的问题。以往做法依赖固定阈值来划分样本难易,但策略在训练中不断变化,能力边界随之移动,固定阈值容易与真实水平错位。MATCH 的 Model-Aware Curriculum Learning 改为用奖励信号反推样本难度,让难度评估随策略一起演化。每个训练轮次里,它挑选靠近当前能力边界的样本,同时保留一个由更难案例组成的 top-k 池,使训练既不过易也不至于完全超出模型掌握范围。这一机制的关键在于难度不是预先标注的静态属性,而是由训练过程本身持续刷新,因此样本调度与策略优化保持同步。

奖励按层级逐级放行

另一处改动针对奖励设计。把工具名、参数键、参数值混在一起做加和式打分时,一旦预测的工具本身出错,参数层面的得分仍可能被计入,形成参数级信用的错误外泄。MATCH 提出的 Hierarchical Tool-call Gated Reward 把三者组织成一条门控链:工具名、参数键、参数值依次评分,只有前一级条件成立,后一级才被授予信用。这样错误工具不会连带获得参数分,奖励与实际调用质量更贴合。该奖励同时用于 GRPO 更新和 MACL 的难度刷新,使策略优化与样本调度共享同一信号来源,形成闭环。

两个基准上的成绩与适用范围

在 API-Bank 与 BFCL V3 上,MATCH 的整体准确率分别为 72.19% 和 62.87%,高于主要的监督式与基于强化学习的对照方案。作者还在来自两个模型家族的四个骨干模型上做了实验,结果均显示稳定提升,说明方法并非只对单一底座有效。需要留意的是,材料给出的评测范围限于这两个工具调用基准与上述骨干模型,其他任务类型与规模下的表现尚未在摘要中展开。对关注工具学习训练的读者而言,这项工作的意义在于把课程难度与奖励信用两处细节同时纳入闭环,而不是单独替换其中一环。

为什么值得看

解决了工具调用强化学习中的课程错位与奖励泄漏问题,显著提升准确率。

大模型强化学习API

信源1 家

  1. [1]arXiv cs.AI一手信源MATCH: Model-Aware Tool Learning with Curriculum Scheduling and Hierarchically Gated Rewards

关键事实

  • MATCH包含模型感知课程学习(MACL)和分层工具调用门控奖励(HTGR)。[1]

  • HTGR对工具名、参数键、参数值进行链式评分,前置条件满足才给予后续奖励。[1]

  • 在API-Bank和BFCL V3上分别取得72.19%和62.87%的准确率。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。