GEPA 优化器改为批量候选提案,多数运行耗时减半

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

一篇投稿至 NeurIPS 2026 Resource-Aware Agentic AI 工作坊的论文对开源 GEPA 优化器做了改造:每一步不再只提出并评估单个候选,而是一次处理一批候选。在两个任务的测试中,多数批量运行的耗时降到原来的一半或更少,最快的一次约为原来的四分之一到三分之一。批量设置还提高了留出测试分数:LiveBench-Math 在 2×2 配置下从 68.9% 升到 72.1%,HoVer 在 8×1 配置下从 49.0% 升到 60.0%。作者用一个运行时模型解释了在有限 worker 池下测得的加速,并指出批量设置对指标调用和费用预算的使用更高效。论文共 9 页、7 张图,前四位作者贡献相同,代码已公开。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

改动的具体做法

GEPA 属于反射式文本优化器:它通过让模型审视当前候选的表现来生成改进版本,再评估新版本,如此循环。原文指出,这一循环本身是资源消耗很大的负载,其串行结构会让并行评估能力闲置。作者的改法是让每个优化步骤一次性提出并评估一批候选,而不是一次只处理一个。论文把反射优化步骤可以并行扩展的维度梳理成若干轴,并对「固定优化预算如何在各轴之间分配」做了初步考察。代码已随论文公开。

实测的加速与分数

在两个任务上做的批量扫描中,多数批量运行的墙钟耗时降到原来的一半或更少,最快的一档约为原来的四分之一到三分之一。速度之外,批量设置还带来更高的留出测试分数:LiveBench-Math 在 2×2 配置下由 68.9% 提升到 72.1%,HoVer 在 8×1 配置下由 49.0% 提升到 60.0%。作者同时指出,批量设置在指标调用次数和美元预算上的使用效率也更高,也就是说,在同样的预算下能取得更好的结果。

运行时模型与适用边界

为解释实测加速,作者提出一个简单的运行时模型,用于描述在 worker 池规模有限时批量带来的收益。这一模型的意义在于:加速并非无条件成立,它取决于可用的并行 worker 数量与批量规模之间的匹配关系。论文的定位是首次考察固定优化预算在多个并行轴上的分配方式,篇幅为 9 页、7 张图,前四位作者贡献相同,发表于 NeurIPS 2026 的 Resource-Aware Agentic AI 工作坊。对使用 GEPA 或类似反射式优化流程的团队来说,可直接参照的结论是:把候选提案批量化,能在不增加预算的前提下同时改善耗时与效果。

为什么值得看

反射式文本优化的瓶颈在串行循环;把候选提案批量化后,耗时与成本同时下降,分数还上升,方法可直接复用。

论文

信源1 家

  1. [1]arXiv cs.AI一手信源Batching the Reflective Optimization Loop: Parallel Proposals Make GEPA Faster and Better

关键事实

  • 论文把开源 GEPA 优化器扩展为每步提出并评估一批候选,而非一次一个[1]

  • 两个任务的测试中多数批量运行耗时减半或更少,最快约为原来的四分之一到三分之一[1]

  • LiveBench-Math 在 2×2 配置下留出测试分数从 68.9% 升至 72.1%[1]

  • HoVer 在 8×1 配置下从 49.0% 升至 60.0%[1]

  • 作者给出一个运行时模型解释有限 worker 池下的加速,并称批量设置对指标调用与费用预算更省[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。