ReSI-Math 框架:从失败轨迹中回收可恢复能力,提升数学推理
本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理,非原文转载失败不等于没有能力
论文关注的问题是:模型答错一道题时,是否真的缺少解题能力。作者给出的观察是,直接解码失败并不必然意味着能力缺失,一部分失败可以通过探索模型自身的推理轨迹被恢复。这类解在直接解码下无法稳定生成,却能在轨迹级搜索中被引出,作者把这一依赖当前策略的区域称为可恢复能力前沿。这一界定把“失败样本”从被丢弃的对象变成可被挖掘的训练资源,也为后续的数据选择提供了依据。
框架如何挑选训练题
ReSI-Math 由两部分组成。其一,用 Self-Judge 引导的进化搜索,在固定策略下找出那些属于可恢复失败的题目;其二,随着策略在训练中演化,自适应地挑选前沿问题,按顺序喂给 RLVR 训练。这样做的目的是把恢复出来的能力转化为数据效率更高的监督信号,而不是在全部题目上平均用力。论文给出的对照也围绕这一点:在匹配的单问题 RLVR 条件下,随机选题只得到 53.31,而前沿引导的 Q1 为 54.16。
实验数字与产出
实验在 Qwen3-VL-8B 上进行。作者报告,正确轨迹与错误轨迹的交叉在 621 次尝试中产生了 272 个经验证器确认的正确后代,占比 43.8%,说明相当一部分失败确实可以被回收。把这些恢复结果用于三个序列化的一次性 RLVR 阶段后,MATH500 与 WE-MATH 两项的平均分从 78.71 提高到 80.16。论文共 20 页,含 7 张图、14 张表,并提供了项目页面,归类于计算与语言及人工智能方向。
为什么值得看
把“答错”重新定义为可挖掘的训练信号,给出了数据效率更高的 RLVR 选题思路,做数学推理与强化学习微调的团队可直接参…
信源1 家
关键事实
相关 · 论文
本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。
