ESPO方法提升提示优化效果
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载把错误先归类再改提示
ESPO 的做法是把提示词优化拆成三个先后衔接的环节，而不是让模型一轮轮往提示里追加规则。第一步叫 Diagnose，它在一轮之内把训练集上出现的全部错误聚成若干结构性模式，也就是先看清错在哪些类型上，再决定往哪个方向改。这与 GEPA 一类演化式优化器的路径不同：后者每迭代一次就补上新的规则和注意事项，提示词因此不断变长。论文把这种膨胀现象归因于三点不足——对错误的观察不完整、搜索的多样性受限、候选的挑选不可靠。ESPO 的三个环节正对应这三点，先补齐错误视图，再扩大候选来源，最后让筛选更稳。
四路候选与稳定性筛选
第二步 Propose 用四种互补的策略生成候选提示，每种策略带有各自独立的偏好，从而让候选在方向上分散开，而不是围绕同一个思路反复微调。第三步 Select 采用 bootstrap 稳定性选择，用重采样的方式判断哪个候选的表现更可靠，降低因偶然波动而选错的可能。论文的消融实验验证了一个关键判断：如果只增加候选的多样性却不做 bootstrap 筛选，效果反而会下降 1.20%。这说明多样性和筛选必须配套使用，单加其中一项并不能带来收益。论文附录还给出一个泛化界，把三个阶段分别对应到测试时差距中的一项，为这套流程提供了理论上的对应关系。
七个基准上的准确率与长度
在 Tweet、MMLU、GSM8K、HotpotQA、ScoNe、HoVer 和 PUPA 这七个公开 NLP 基准上，ESPO 的平均准确率比此前的最好结果高出 3.76 个百分点，达到 74.67%，而 GEPA 为 70.91%。在每一个数据集上，ESPO 都不低于 GEPA。与此同时，它产出的提示词长度是 1,004 个字符，GEPA 则是 1,878 个字符，前者短了 47%，推理时也更快。这组数字回应了提示膨胀的问题：更短的提示并没有牺牲准确率，反而在平均表现上更好。对使用提示优化的团队来说，这意味着不必再接受“提示越写越长、效果却原地踏步”的局面，优化过程可以收敛到更精简的指令上。
跨模型表现与适用边界
论文还在另外四个学生模型上做了跨模型实验，分别是 Gemma 3 12B、Mistral 14B、Qwen3 32B 和 Claude Haiku 4.5，ESPO 在每一个被测模型上都取得最好的平均准确率。差距最大的一处出现在 Qwen3 的 GSM8K 上，从 15.00% 提升到 91.40%。需要留意的是，这些结论建立在上述七个基准和四个额外模型之上，材料没有说明该方法在其他任务类型或更大规模模型上的表现，也没有给出提示长度与准确率之间关系的更多边界条件。读者在迁移这套三阶段流程时，应把错误聚类、候选生成和稳定性筛选视为一个整体来实施，单独取用其中某一环可能得不到论文报告的效果。
为什么值得看
显著提升提示优化效果，解决提示膨胀问题，适用于多种模型
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。