研究提出按 pass@k 直接优化思维剪枝，兼顾质量与多样性
论文AI 评分 66/100arXiv cs.AI待复核
AI 聚合
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
针对推理模型在测试时扩展中需生成大量候选解、全部跑完代价高的问题，这项研究把剪枝后的候选池选择转化为直接优化 pass@k：挑选使「至少一个部分解续写后得到正确答案」概率最大的候选池。该目标同时奖励高质量部分解、惩罚彼此冗余，因此质量与多样性由准则本身平衡，而非分开设计。在八个开放权重推理模型上，该方法优于既有基于质量和基于多样性的剪枝策略，在保留中等数量候选继续生成时提升尤为明显。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载剪枝要解决的问题
推理模型在测试时扩展时，常见做法是一次生成大量候选解，寄望其中至少有一个正确。但把每个候选都跑到结束，算力开销很大。近期做法是只生成一段短前缀就筛掉一部分候选，把后续计算留给存活下来的那些。既有筛选思路分两类：一类给每个部分解打分，丢掉预计最终会答错的；另一类挑选走向不同推理路径的部分解，以求覆盖更多不同的最终答案。这两类目标之间存在探索与利用的张力，而此前的工作几乎没有把这一权衡直接摆到优化目标里。
用 pass@k 统一两个目标
这项研究提出的剪枝流程，把候选池的选择写成对 pass@k 的直接优化：选出一个池子，使其中至少一个部分解在续写完成后给出正确答案的概率最大。这个准则天然带有双重作用——部分解质量高会被奖励，池内彼此重复会被惩罚，于是质量与多样性不再靠两套分开的启发式规则拼凑，而由同一个判据同时约束。作者把这一点视为方法的核心差异：权衡不是事后调参，而是写进了选择标准本身。
实验设置与结果
作者在八个开放权重的推理模型上对比了该方法与既有的基于质量、基于多样性的剪枝策略，前者表现更好。结果还显示，当剪枝后保留的候选数量处于中等水平时，优势最突出——这一区间正是需要在有限算力下兼顾正确率与覆盖面的场景。材料未给出具体模型名称、基准数据集与提升幅度数值，因此无法进一步量化对比。
为什么值得看
测试时扩展的算力开销主要花在候选解上，剪枝准则直接决定花多少算力换多少正确率，这项工作报告了可复用的目标函数与跨模型对…
推理模型
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。