ReSI-Math 框架:从失败轨迹中回收可恢复能力,提升数学推理

论文AI 评分 72/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

论文提出 ReSI-Math 框架,核心观察是模型直接答错并不等于不具备相应能力,部分失败可通过探索模型自身轨迹恢复,形成依赖策略的“可恢复能力前沿”。该框架用 Self-Judge 引导的进化搜索在固定策略下找出可恢复的失败,并随策略演化自适应挑选前沿问题做序列化 RLVR。在 Qwen3-VL-8B 上,621 次尝试中经正确-错误轨迹交叉得到 272 个验证器确认的正确后代,占 43.8%;经三个阶段的一次性 RLVR 后,MATH500 与 WE-MATH 平均分从 78.71 升至 80.16。在单问题 RLVR 对照下,随机选择为 53.31,前沿引导的 Q1 为 54.16。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

失败不等于没有能力

论文关注的问题是:模型答错一道题时,是否真的缺少解题能力。作者给出的观察是,直接解码失败并不必然意味着能力缺失,一部分失败可以通过探索模型自身的推理轨迹被恢复。这类解在直接解码下无法稳定生成,却能在轨迹级搜索中被引出,作者把这一依赖当前策略的区域称为可恢复能力前沿。这一界定把“失败样本”从被丢弃的对象变成可被挖掘的训练资源,也为后续的数据选择提供了依据。

框架如何挑选训练题

ReSI-Math 由两部分组成。其一,用 Self-Judge 引导的进化搜索,在固定策略下找出那些属于可恢复失败的题目;其二,随着策略在训练中演化,自适应地挑选前沿问题,按顺序喂给 RLVR 训练。这样做的目的是把恢复出来的能力转化为数据效率更高的监督信号,而不是在全部题目上平均用力。论文给出的对照也围绕这一点:在匹配的单问题 RLVR 条件下,随机选题只得到 53.31,而前沿引导的 Q1 为 54.16。

实验数字与产出

实验在 Qwen3-VL-8B 上进行。作者报告,正确轨迹与错误轨迹的交叉在 621 次尝试中产生了 272 个经验证器确认的正确后代,占比 43.8%,说明相当一部分失败确实可以被回收。把这些恢复结果用于三个序列化的一次性 RLVR 阶段后,MATH500 与 WE-MATH 两项的平均分从 78.71 提高到 80.16。论文共 20 页,含 7 张图、14 张表,并提供了项目页面,归类于计算与语言及人工智能方向。

为什么值得看

把“答错”重新定义为可挖掘的训练信号,给出了数据效率更高的 RLVR 选题思路,做数学推理与强化学习微调的团队可直接参…

Qwen论文

信源1 家

  1. [1]arXiv cs.AI一手信源ReSI-Math: Exploring Recoverable Capability Frontiers for Efficient Reasoning Improvement

关键事实

  • 论文提出 ReSI-Math 框架,用 Self-Judge 引导的进化搜索识别固定策略下的可恢复失败,并自适应选择前沿问题用于序列化 RLVR。[1]

  • 在 Qwen3-VL-8B 上,正确-错误轨迹交叉在 621 次尝试中产生 272 个验证器确认的正确后代,占 43.8%。[1]

  • 经过三个序列化的一次性 RLVR 阶段,MATH500 与 WE-MATH 平均分从 78.71 提升到 80.16。[1]

  • 在匹配的单问题 RLVR 设置下,随机选择得分为 53.31,前沿引导的 Q1 为 54.16。[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。