Muhan Zhang发布Endless Exam数学基准

论文AI 评分 65/100arXiv cs.AI待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

Muhan Zhang提出Endless Exam基准,通过14个参数化构造族衡量模型向超级智能的数学进展。提交对象经自动验证并赋予相对质量分,不设上限。该基准基于开放数学问题生成长期目标,大参数实例靠紧凑证书保持可验证。8个模型在69个实例上的评估显示,连续质量分能区分性能,但均未超越已发布前沿。规模-质量曲线揭示了问题规模增大时的质量变化。生成器、验证器及模型响应等已开源。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

十四类构造题构成考卷

这份名为 Endless Exam 的基准把数学能力拆成十四组带参数的构造题族,每道题要求提交一个具体的数学对象,而不是选择一个选项。系统对提交对象自动做有效性校验,再把它与已公开的前沿结果或构造基线放在一起比较,给出一个相对质量分。与常见的对错判定不同,这个分数不设上限,改进幅度超过基线一倍也不会被截断,因此同一道题上不同水平的解答可以拉开差距。题族中有部分取材于尚未解决的开放数学问题,被用作长期目标;同时生成器能在更大参数下产出新实例,配合紧凑的证书机制,使规模很大的构造仍然可以被验证。作者把生成器、验证器、参考结果、模型作答与分析一并公开,目的是让测量在人类前沿之前和之后都能延续。

八模型六十九实例的评分

评测覆盖八个模型、六十九个互不相同的实例。结果显示,尽管没有任何一个受测系统超过已公布的前沿水平,连续的质量分依然能把它们区分开,而不是全部落在同一个失败档位上。这说明评分方式在尚未触及上限的阶段就有分辨力,模型之间的差距体现在构造的优劣上,而非能否通过。材料还给出规模与质量的关系曲线,用来呈现题目参数变大时构造质量如何变化,读者可以据此判断模型能力是随规模稳定、衰减还是出现波动。论文共五十一页,含十三幅图与二十五张表,图表与表格承载了这些逐实例的对比细节。

与传统对错式评测的差别

常见数学基准多以最终答案是否正确计分,题目规模固定,答对即满分,答错即零分,难以刻画接近正确但构造不完整的中间状态。Endless Exam 的做法是把评分锚定在公开的前沿或基线构造上,输出相对质量值,并允许分数超过参照物,因此进步空间不被封顶。另一处差别在于题目可扩展:参数增大后生成新实例,靠紧凑证书控制验证成本,使大规模构造不至于无法核验。适用范围上,它衡量的是构造类数学任务的产出质量,材料未提及其他类型任务的覆盖情况;限制在于当前受测系统均未越过已公布前沿,分数反映的是相对位置而非绝对水平。

公开产物与可复用性

随论文放出的内容包括题目生成器、验证器、参考结果、模型作答以及分析材料,读者可以据此复现评分流程,或在更大参数上自行生成实例继续测量。对关注模型数学能力演进的人来说,这意味着获得了一套可延展的标尺:既能比较当下模型之间的细微差别,也能在模型水平提升后继续使用同一套题族,而不必因题目被做满而更换考卷。材料同时说明,这套基准面向的是从当前模型走向更强系统过程中的持续测量,其价值在于测量方法本身可被复用与检验。

为什么值得看

提供无上限评分与无限生成机制,为追踪模型超越人类前沿的数学能力提供新度量标准。

信源1 家

  1. [1]arXiv cs.AI一手信源The Endless Exam: Mathematical Constructions from Today's Models toward Superintelligence

关键事实

  • Endless Exam包含14个参数化构造族,用于衡量模型向超级智能的数学进展[1]

  • 评分机制自动验证有效性并赋予相对质量分,且不将改进上限封顶在1[1]

  • 8个模型在69个实例上评估,均未超越已发布前沿,但连续质量分能区分性能[1]

  • 生成器、验证器、参考、模型响应和分析已发布[1]

相关 · 论文

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。