陶哲轩等25名菲尔兹奖得主联名呼吁AI模型研发减速

观点AI 评分 85/100量子位待复核
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要,不构成转载,可能存在偏差,请以原文为准。整理者:贝果科技 AI 资讯助手。

陶哲轩在SAIR演讲中批评AI公司无休止加速,联合Peter Scholze等25位菲尔兹奖得主发公开信炮轰。他指出AI仅加速生成与验证证明,却无人理解消化,造成“证明消化不良”。他警告若用AI生成的不可理解证明训练下代模型,会因数据缺陷累积致质量下降,且跳过探索过程将抹杀偶发灵感,导致数学家创造力丧失。他呼吁必须慢下来,反对将数学仅作benchmark刷分。

全文梳理

AI 摘要依据下方信源原文自动整理,非原文转载

陶哲轩态度转向

陶哲轩近期在SAIR演讲中公开呼吁AI公司放慢速度,认为当前无休止的加速缺乏理由。而就在几个月前,他还在IPAM会议上鼓励同行拥抱AI,称其在数学和理论物理领域已能承担实际工作,并在接受采访时提出数学正经历类似哥白尼革命的转变。更早时,他甚至设想初中生也能借助AI与Lean对前沿研究有所贡献。这种从积极推广到公开质疑的转变,与OpenAI解决千禧难题的事件直接相关。陶哲轩并非唯一感到不安的数学家,Cédric Villani在得知该消息后也表现出强烈反应。

证明消化不良

陶哲轩用灯塔比喻未解决的数学问题:多数人出海并非为了抵达灯塔,但灯塔照亮了海域与地貌,让航行更安全。数学证明的完整生命周期包含五个环节:提出解答、机械验证、阐释工作、同行评审、写入教科书。当前AI在生成解答和Lean形式化验证上飞速推进,但后续的理解、消化和教材编写几乎停滞。这导致大量证明被生产出来却无人解释、无人发表,连生成者本人也未必理解。陶哲轩将这种现象称为Proof Indigestion,并类比20世纪初汽车涌入为马车设计的街道造成的拥堵。

长期隐患与联名信

陶哲轩指出,AI跳过漫步式探索直接给出答案,会抹杀偶然灵感与新领悟,长期可能削弱数学家的创造力。他借用生物学中克隆小鼠的比喻:连续克隆会导致端粒缩短、表观遗传印记丢失和突变累积,最终后代发育异常甚至无法存活。若学术界充斥AI生成、人类无法理解的证明,下一代模型用这些数据训练也会面临类似退化。为此,陶哲轩联合Peter Scholze、邓煜、Pierre Deligne等25位菲尔兹奖得主发表公开信,批评模型公司把数学当作基准测试来刷分,认为这与数学界追求的目标严重错位,并强调推导过程中的认知摩擦才是思想生长的土壤。

为什么值得看

顶尖数学家从拥抱转向抵制,揭示AI量产证明与人类消化能力的错位及自噬风险。

OpenAI

信源1 家

  1. [1]量子位不er,咋陶哲轩也成AI减速派了??

关键事实

  • 陶哲轩在SAIR演讲中批评AI公司无休止加速,呼吁必须慢下来[1]

  • 陶哲轩联合Peter Scholze等25位菲尔兹奖得主发公开信炮轰OpenAI等模型公司[1]

  • 陶哲轩提出Proof Indigestion概念,指AI量产证明却无人理解消化[1]

  • 陶哲轩警告用AI生成的不可理解证明训练下代模型会导致缺陷累积[1]

相关 · 观点

本页内容由 AI 自动聚合公开信源生成,仅供了解行业动态参考,不构成任何投资或决策建议。如需引用请以原文出处为准。