arXiv 论文：三类开放模型在 ARC-AGI-2 上的训练与校准数据实验
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载实验设定与评测口径
论文把问题限定在离线求解：求解器跑在四块 L4 GPU 上，单次最多 12 小时，评测对象是 120 个隐藏的半私有任务，共记录 189 次运行。作者比较的是离线数据在公开任务上的表现，再把这些数据用于半私有任务。三个模型分别覆盖网格模型、推理模型和混合专家模型三种形态，因此结论不是单一模型的特例。论文共 39 页、7 幅图、23 张表，数据与配置的披露程度较高。
网格模型的规则语料与真实数据
针对 NVARC Qwen3-4B 网格模型，作者构建了 12,000 条用类型化语言写成的可执行规则，以及 95,993 个任务。规则入选有明确门槛：它在固定探针集上的行为必须与所有已入选规则不同；任务入选则要求其样例能反驳一组最接近的竞争规则，并击败 12 个捷径求解器。真正带来提升的是用 1,920 条真实任务记录继续微调，并调整四块 GPU 的调度，半私有分数从发布模型的 28.96 均值升到 33.06（五次均值，最佳 34.86）。作者明确指出，用合成任务训练的检查点没有一个超过真实任务模型，即便用满全部 95,993 个任务。
推理模型的轨迹微调与推理流程
对 Qwen3.8-27B 推理模型，作者用 1,036 条最终答案正确的自身推理轨迹做微调，并对比了额外加入其他模型轨迹与合成任务的组合。分数从 26.81 升到 44.03，已超过 ARC Prize Foundation 在不限时条件下测得的基座模型 42.36。作者强调增益主要来自围绕模型搭建的推理流程：在服务引擎里强制思考上限、每次作答后用 Python 程序在示例上校验、每个输入给一次较长的首次尝试。这说明在该任务上，推理时的流程设计与微调数据同样关键。
混合专家模型的显存与缓存优化
Qwen3.8-Flash-Next 是 125B 参数、6B 激活的混合专家模型，GPU 显存限制了并发。作者按路由加权激活显著性，把每层专家从 512 剪到 384，键值缓存从 0.55M token 扩到 1.39M；再用 ARC 路由统计适配出 296 个专家的列表，保留处理程序 token 的专家，并加上 FP8 索引器缓存，缓存达到 1.96M token。配合一个检查程序的工具，该模型得分 56.67，是论文中三个模型的最好成绩。
为什么值得看
论文给出可复现的数据筛选规则、剪枝与推理流程细节，以及各模型在半私有任务上的具体分数变化，对做 ARC-AGI 与开放…
信源1 家
关键事实
求解器在四块 L4 GPU 上离线运行，单次时限 12 小时，在 120 个隐藏半私有任务上共报告 189 次运行[1]
NVARC Qwen3-4B 网格模型用 1,920 条真实任务记录继续微调后，半私有分数从 28.96 升至 33.06（五次均值，最佳 34.86）[1]
用合成任务训练的检查点，即使使用全部 95,993 个任务，也未超过真实任务模型[1]
Qwen3.8-27B 推理模型经 1,036 条自身推理轨迹微调并配合推理流程，分数从 26.81 升至 44.03，增益主要来自推理流程[1]
Qwen3.8-Flash-Next（125B 参数、6B 激活）按路由权重把每层专家从 512 剪到 384，键值缓存从 0.55M 增至 1.39M token，配合程序检查工具得分 56.67[1]
相关 · 论文
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。