研究发布KOPA-Bench基准与EDGE数据合成方案

论文AI 评分 65/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

针对开源模型在多步工具调用上的不足,研究团队发布了包含145个真实任务的KOPA-Bench基准。同时提出了EDGE数据合成方案,通过构建动态图并验证真实API调用链接来生成训练轨迹。使用该数据集微调的9B模型在KOPA-Bench和BFCL基准上表现接近未微调的27B模型。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

145个任务构成的基准

这项研究先做了一件此前缺失的事:建立一个能衡量开源模型在多步工具调用上差距的测试集。作者给出的 KOPA-Bench 由 145 个真实任务组成,任务场景是围绕韩国开放公共 API 展开的多步调用,也就是一次请求需要串起多个政府接口才能完成。论文指出,在需要连续调用多个工具的设定下,开源模型的表现一直偏弱,而此前没有基准去量化这个落差,KOPA-Bench 正是为填补这一空白而设计。基准之外,作者还提出了一套数据合成方法 EDGE,全称为 Execution-grounded Dynamic Graph for tool-calling data synthEsis,其核心是把真实执行结果作为合成数据的依据,而不是靠人工编写或模型凭空生成轨迹。两项产出合在一起,构成了从评测到训练数据的完整链条。

用真实调用筛出可用链路

EDGE 的做法可以拆成三步。第一步,先构建一张图,描述每个工具的输出如何成为另一个工具的输入,也就是把接口之间可能的衔接关系铺开。第二步,对图中每一条候选连接,实际向线上 API 发起调用进行验证,只保留那些真正调用成功的链路,失败或不通的连接被剔除。第三步,沿着这些经过验证的边进行遍历,合成出可执行的多步轨迹,作为训练样本。这样做的关键在于,合成数据里的每一步都对应一次真实发生过的成功调用,轨迹因此具备可执行性,而不是纸面上看起来合理、实际跑不通的流程。相比依赖静态描述来拼接调用序列的思路,这套方法把线上执行结果当作筛选条件,样本质量由真实响应来兜底。

9B模型逼近27B

作者用合成出的数据集对模型做 GRPO 微调,得到的是一个 9B 规模的模型。结果显示,这个经过微调的 9B 模型与同家族中未做微调的 27B 模型表现接近,参数量差距被大幅压缩。提升并不只出现在 KOPA-Bench 上,在 BFCL 基准上同样有明显改善,说明微调带来的能力变化并未局限于韩语公共 API 这一特定场景。论文给出的规模信息还包括:全文 30 页,含 7 幅图、26 张表,被 EMNLP 2026 Industry Track 接收,编号为 arXiv:2609.05395。这些数字勾勒出的是一项面向产业落地的完整工作,而非单点技巧。

适用范围与读者关切

从论文的描述看,这套方案面向的是需要在本地部署开源模型、并让模型跨多个线上政府接口串联调用的机构场景,其出发点是让较小参数量的模型也能承担多步调用任务,从而降低对超大模型的依赖。需要留意的是,基准与数据合成流程都建立在韩国开放公共 API 之上,任务语言与接口形态带有明确的场景属性;EDGE 的链路筛选依赖对线上接口的真实调用,因此合成数据的产出与接口的可用状态直接相关。对关注工具调用能力的读者而言,这项工作的价值在于提供了一套可复用的思路:先用真实执行验证工具之间的衔接,再据此生成训练轨迹,并用专门的基准去衡量多步场景下的实际差距。

为什么值得看

提供了评估多步API调用能力的新基准,并展示了通过数据合成提升小模型性能的有效路径。

微调开源模型API数据集

信源1 家

  1. [1]arXiv cs.AI一手信源Multi-Step Tool-Calling over Korean Open Public APIs: A Benchmark and a Data-Synthesis Recipe

关键事实

  • 发布包含145个真实任务的KOPA-Bench基准。[1]

  • 提出EDGE方案,通过真实API执行验证合成多步轨迹数据。[1]

  • 9B模型经微调后表现接近同家族未微调的27B模型。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。