研究：贪心父代继承贡献短预算 LLM 优化的大部分进展
论文AI 评分 66/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
一篇预注册研究在九个提示与程序合成基准上跑了 1750 次实验，把「父代继承」与「每轮反馈广度」分开考察。结果显示，贪心式父代继承带来绝大部分优化进展，即使让种子重置方案每轮拿到全部失败的聚类摘要、或换用更大的提议模型，仍不及前者。全量错误聚类与多样失败选择能改善从种子出发的单步改写、加快搜索前几轮，但随着已解决错误模式被保留并从后续失败列表中过滤，顺序继承会迅速抹平这一差距。对 GEPA 的 token 开销拆解还显示，提议模型的反思只占总成本一小部分，验证与小批量筛选几乎吃掉全部预算。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载实验如何拆分两个变量
已有迭代式语言模型优化器通常这样工作：评估候选提示或程序，把一部分失败样例展示给提议模型，保留有提升的修改。此前研究把这一循环的瓶颈归因于单轮反思视野太窄，于是引入全量错误聚类、定向小批量或更大的提议模型。问题在于，这些机制此前都只在保留父代的搜索流程里测试，父代继承的作用与每轮反馈的广度混在一起，无法区分。该研究在同等评估预算下把两者拆开，用九个提示与程序合成基准上的 1750 次预注册运行做对照。
继承比反馈广度更关键
对照结果表明，贪心式父代继承贡献了优化进展的绝大部分。种子重置重采样即使每轮都能拿到全部失败的聚类摘要，或者换用更大的提议模型，仍然落后。全量错误聚类和多样失败选择确实能改善从种子出发的单步改写，也让搜索前几轮更快，但顺序继承会迅速追平：已解决的错误模式留在候选里，并从后续失败列表中消失，反馈广度带来的优势因此被吸收。换言之，保留并持续编辑一个存活父代，本身就承担了记忆功能。
成本花在哪里
研究还拆解了 GEPA 的 token 支出结构：提议模型的反思环节只占总成本的一小部分，验证与小批量筛选几乎消耗全部预算。结合前面的结论，作者指出，在原始失败列表上做贪心父代继承，能以远低于复杂反思循环的算力拿到相近收益。这一发现对预算有限的自动提示与程序优化实践有直接参考价值，也提示后续工作应更关注评估环节的开销，而非一味加大提议模型的反思强度。
为什么值得看
想省算力做 LLM 自动提示/程序优化的人，可以据此判断该把钱花在继承结构还是更复杂的反思机制上。
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。