AI 正在颠覆纯数学研究

今天的 Decoder 节目，我与《The Verge》驻伦敦 AI 记者 Robert Hart 对话，探讨 AI 正在对数学领域做什么，以及许多顶尖数学家正在经历的存在主义危机。

OpenAI 刚刚公布了一组长期悬而未决的数学问题的解答，在学术界引发了轰动。它在数学界激起了一场激烈的辩论，Rob 花了不少时间采访了这个时代一些最杰出的数学家。

有趣的是，AI 系统在小学算术方面仍然相当糟糕，但在非常高端的抽象数学方面却越来越强。这给高等数学领域提出了一些重大问题。

如果 AI 能做这种水平的数学，这是否意味着 AI 实验室可以将这些技能迁移到其他领域？如果前沿模型直接回答所有悬而未决的问题，那么用于培养新一代数学家识别问题、尝试解决现有问题的学术资助和大学项目还有什么用？

如果围绕数学的所有关注只是前沿 AI 实验室的一场大型营销活动——他们根本不在乎这个最古老、最基础的学科之一的命运——那该怎么办？

内容很丰富，Robert 与许多人交流过，听取了各种各样的观点。

好了：《The Verge》AI 记者 Robert Hart 聊聊 AI 正在对数学做什么。开始吧。

本次访谈经过轻度编辑以控制长度和清晰度。

Robert Hart，你是《The Verge》驻伦敦的 AI 记者。欢迎来到 Decoder。

谢谢邀请。

我很高兴和你聊天。AI 与数学领域有很多动态，你最近深入探讨了这一块。你采访了许多顶尖数学家，关于 AI 引发的数学危机。

感觉内容确实很多，而且关于这两者的互动还有很多未知等待发现。一场全面的存在主义危机——这正是 Decoder 的风格。总体来说，告诉我们发生了什么。

我认为"很多"这个词很好地概括了。基本上是某种存在主义危机，关于"数学是什么？数学家在做什么？数学家的角色未来会怎样？"

很大程度上，这波热潮是由 AI 能力的一个关键转变所推动的，在过去六个月到一年里突然爆发。AI 在很短时间内从非常糟糕变成了看似真正达到专业水平的不错。这相当于其他领域过去五年里艰难应对的所有事情，被压缩在了很短的时间内。

我会把它与软件工程放在一起类比。我们已经经历了一段时间的 AI 危机。但就在 2024 年，甚至去年，普遍共识还是 AI 模型在数学方面特别差。著名的例子是，这些模型无法数出"strawberry"这个词里有多少个 R。连简单的计数都难倒它们。

它们是怎么变得更好的？它们仍然不擅长普通算术而只擅长高等数学吗？还是介于两者之间？

它们在某些数学领域确实仍然非常非常糟糕。我验证过，现在它们能处理 strawberry 了。我想是有人把它硬编码进去了。

我想说清楚，我的阴谋论是，strawberry 这件事被硬编码进了所有模型里。

我也这么认为。这是，我会接受的阴谋论。

但没错，它在这些事情上仍然很糟糕——数学、算术，甚至星期几。我的男朋友那天说，"它一直以为今天是星期三。今天不是星期三。"或者时间。几个月前我们的 Elissa Welle 写过 ChatGPT 不会报时间。仍然不会。这不是数学的全部。

所以存在这种脱节。要做好数学，你必须擅长计数、加法或乘法。但实际上很多是推理。如果你看学术数学论文，很多时候你看不到数字和求和，这正说明了一点。所以它们仍然很糟糕，但现在在另一个部分也非常出色。

至于原因，在某种程度上你达到了这些系统能力的临界点。我们在写作上看到了这一点，在编程上也看到了。它们非常擅长在不同领域之间建立联系，用新方法应用旧方法，诸如此类。看起来它们正在训练的新模型已经达到了那个临界点，现在可以做数学了。

同样重要的是，我们把数学视为一个单一学科，尤其是从外部看。但想象一下生物学吧，从观察动物、描述行为，一直延伸到细胞机制和生物化学。数学也不是单一学科。AI 在某些部分真的很好。像计数这样的部分，它仍然非常糟糕。

即使在更抽象的层面，数学家们也提出拓扑学是 AI 似乎仍然相当糟糕的一个领域。说实话，我无法验证这一点。它超出了我的专业范围。尽管如此，这仍然是一个喜忧参半的局面。

所以你把数学描述为一个巨大的领域，显然，有许多许多学术兴趣领域。有些部分模型已经相当擅长了。还有其他部分，也许人们一想到数学就想到的基础部分，也就是简单的计数，模型们仍在苦苦挣扎，中间还有一大片广阔的领域。

那么危机是在中间的广阔地带吗，人们不知道会发生什么？还是在它真正擅长的那些部分？

两者都有，我觉得这会是贯穿始终的一个主题。没有人真正害怕它成为一个平庸的数学家，但显然这个领域做的事情有一个巨大组成部分。就研究层面或前沿而言，正如我们看到很多产生热度的成果那样，它能做什么？有些领域现在看起来它正在产出与优秀数学家相当的工作，同时在其他部分——是的，它不会数数。

所有这一切都交织着一个问题：它是否会重写就业结构或资助结构。你还提出了一个模糊的问题：什么是数学知识？以及这些从业者将扮演什么角色。所有这些都纠缠在一起。

我认为这与 AI 在各领域的崛起轨迹基本一致。在那些你可以仅仅通过增加算力或计算资源就能解决问题的地方，而且有一定的可验证性，模型似乎在不断进步。在中间所有需要某种世界知识、或者模型需要某种关于世界本身的真正智能的部分，它们似乎很挣扎。

你报道中提到的、实验室们谈论的那些数学部分，似乎几乎完全是自洽的理论问题。这就是模型可以生成一个证明或解决一个无人能解的问题，然后尝试验证它确实存在，而且可以一次又一次地运行它。

这把我们带到了今年五月，一个内部 OpenAI 模型——我们实际上没有见过——证伪了单位距离猜想，这是一个有 80 年历史的问题。然后就在最近，我们听说了 OpenAI 的 Astra。就是这个，让所有人都觉得开关被触发了，每个人都认为这是一场存在主义危机。

Astra 取得了什么成就？为什么它意义重大？

我也相当确定 Astra 可能也是早期那个的背后推手。OpenAI 只是把它列为一个未命名的内部模型。可能就是 Astra。我问的时候他们没回答我。

几周前 OpenAI 发布了一篇博客，还有很多证明文件，我想有几百页。他们称之为"数学与理论计算机科学的 10 项进展"。基本上是一系列学科，他们声称最新的模型 Astra 以某种方式解决了这些问题。其中一个我认为是量子博弈论，我都不知道怎么解释。甚至更难解释的是高维球堆积，即三维以上的球堆积。还有很多其他不同的学科。

它在社区里引起了很大震动。有点像个炸弹。正如我们所说，之前已经有一些单独的突破发生，但 OpenAI 一次放出了 10 个，而且都是相当大的问题。研究人员告诉我，如果一个人类解决了这些问题，我们会印象深刻。如果一个人类解决了所有 10 个，我们可能都不会相信。

重要的是，这些也是数学家真正关心的问题，这是一个关键点。很多之前的突破被批评是发生在数学家们并不真正感兴趣的领域。这些是优秀的数学家们花了大量时间试图解决但未能解决的问题。

让我们来谈谈这 10 个问题。你做了详尽的报道。OpenAI 确实发布了一些文档。但这些问题并不是凭空出现的，对吧？

它们是基于之前的研究成果。这就涉及归属问题。回应是什么？是"哦，模型完成了这些？"还是我们面对许多 AI 成果时常见的反应，基本可以归结为："好吧，你偷了这些东西，没有归功于任何人，你站在巨人的肩膀上却对此只字不提。"外界的反应如何？

总体而言，我采访过的人普遍反应是相当震撼。正如我所说，这些都是数学家关心的问题。其中有一个特别引人关注，既涉及他们如何致谢，也涉及他们在博客文章中如何宣布这一切。OpenAI 最初表示这是 10 个问题，过去 10 年没有任何进展。但如果你仔细阅读论文，其中一个明确写道："我们借鉴了这两位研究者的成果。"

这之后被悄悄修改了。但我采访的一些研究人员相当不满，他们确实认为这存在一个问题："好吧，是的，你们严重依赖了这些成果却没有致谢，而且你们自己也承认了。"话虽如此，我采访过的一位研究者（也是被提及者之一）对整件事态度颇为矛盾，所以情况确实很复杂。

总的来说，外界印象是相当震撼。这些是真正让数学界困扰的突破，确实推动了该领域的发展——如果一个人类数学家完成了这些问题，好几位研究者实际上都说："如果一个研究者完成了其中任意一个问题，他大概一辈子学术生涯都有着落了。"

有趣的是，在学术界，功劳和归属就是一切。看起来 AI 公司在 sloppy（草率）这件事上享有的豁免，是任何人类都无法企及的。

这些发现的规模或工作量是否弥补了草率？如果一个人类完成了同样的目标，却同样草率，反应会一样吗？

我内心深处总是想抓住"这看起来像是抄袭"的元素。但如果你真的读了他们发表的论文——我采访的一位研究者说，全球大概只有 50 个人会认真仔细地阅读这些论文——你会发现事实很清楚。它并不试图抄袭。我觉得这只是一次糟糕的新闻稿，说实话。

尽管我有时喜欢深挖这一点，但在从事科学报道十余年后，我发现新闻稿往往过度吹嘘实际的发现及其重要性和 novelty（创新性）。我认为这只是此处的又一个案例。

这看起来可以复现吗？他们提供了证据证明解决了 10 个原本无解的问题。是否提供了证据证明他们能再解决另外 10 个？

这就是问题所在。我为这篇报道采访了近十个人，他们最大的未知就是："好吧，他们尝试了多少次才得到这 10 个？"天知道？只有他们自己知道，但他们不说。

但这确实是个关键问题。目前尚不清楚他们为了获得这 10 个结果尝试了多少次。如果他们第一次就直奔这些目标，然后就拿出了这 10 个令人印象深刻的成果，我会非常震撼。

接下来他们会关注哪些领域尚不清楚，选择公开哪些模型能解决的问题也有商业原因。所有 AI 实验室都在幕后招募了一批资深数学家，所以会不会再来一次就很难说了。

在 proof（证明）的问题上，数学与实验科学不太一样。可重复性不是同一个概念。证明就是证明，如果它有效，它就有效。这里真正的问题是，人们能否 follow（跟进）他们的工作？每个领域都非常专业化，所以会有身处那些领域的个别数学家来审查这些工作。我采访过的一些在这些领域工作的学者表示，一切看起来都非常靠谱。

在数学领域，有一种叫做 Lean 的编程和计算证明语言，你基本上可以将数学证明编码化，然后运行它来证明。它会检验 rigor（严谨性）和所有假设。他们也发布了这些。所以这看起来确实站得住脚。虽然他们可能会说新闻稿有很多 hype（炒作），或者围绕它的 hype 很多，但我采访过的人似乎没有人在质疑他们声称的基本 breakthrough（突破）。

我想在这个话题上再停留一秒。这里有数学证明。我们产生了一个证明，这正如你所说，在数学就是逻辑的意义上是可重复的。你可以 just（只是）逐步检验，说"这个证明有效"，任何一个在高中被迫写证明的人大概都记得那个过程。这其中有些纯粹的逻辑。

然后有一部分是软件代码，就像你在 Lean 中描述的，你可以将纯粹的逻辑表达为代码，然后运行它看是否有效。我理解 AI 在理论上如何擅长这一切。你只是要运行推理，推理会生成一些代码。你运行代码，得到一些可验证性。我们在软件工程中见过这种情形，代码运行或不运行，可以验证或不验证，模型可以就此进行推理。

然后还有我之前暗示的那个大问题。你需要运行多少次？我们能否验证模型做到了这些，而不是被那些被实验室高薪聘请的人类数学家所引导——以至于这个领域正在天翻地覆？

你这里有一段 James Maynard 的引语，他曾获菲尔兹奖——数学界最高荣誉——他说他一直在 soul-searching（反思）。我一直在看那段引语。在你的报道中来自所有这些数学家的类似引语似乎都在反思一件可悲的是他们无法验证的事情："模型是如何做到的，这是否会以威胁数学的方式规模化？"关于模型如何做到这一点，我们知道些什么？

我会说，和我们通常对这种事知道的一样多，又一样少。这里有几个问题。一个是模型的性质。这是一个未发布的模型，所以想要独立测试的人只能祝他好运。这和其他专有技术一样。不过，我倾向于给予他们某种程度的信任，相信他们没有在所使用的模型上撒谎。

至于另一个部分，问问我们是如何 prompt（提示）模型的，或者它是如何被引导的？是否由一位知道自己在做什么的数学家引导？根据我采访过许多尝试使用这些模型的人的说法，这可能是这里的一个关键因素。这是 consumer models（消费级模型），但仍然指向更广阔的格局。

他们说，如果你知道自己在做什么并且能够指出问题所在，它就很好用。或者你可以以一种你想要的方式将它作为一个工具来使用，而如果你不知道如何验证它，你就无法这样使用。我有过这样的情形：我让 ChatGPT 做一道基础算术，我说"那个数字不对"，它回应"等等，抱歉，你是对的，应该是这个"，但仍然是错的。但在这个 level 也仍然需要。

这确实指向了一个更广泛的问题。正如你所说，这种几乎是 soul-searching（反思）："好吧，如果我们能将其自动化，并且到了我们无法理解的程度，会怎样？"这真的触及了一个更深层的问题："好吧，数学是什么？为什么我们要做数学？为什么我们重视它作为一个领域？"

每个人都会有不同的答案。但我采访的许多人害怕的是，这可能会超越人类兴趣的范畴，在这种情况下，嗯，也许我们 just（只是）就不会参与了。或者这将成为感兴趣的人会去钻研的东西，然后其余的人继续正常生活。

你在这里有一段来自苏黎世研究员 Johannes Schmitt 的引语，他说："我们可能正在走向这样一种局面：数学问题被 AI 'mowed down'（扫荡），但我们实际上并没有推动这个领域向前发展，因为人类被排除在循环之外，他们要么没有检查，要么不理解，要么不知道未来的 breakthrough（突破）可能是什么。"这有多可能？这是一个很大的担忧吗？

这其中涉及一个对数学问题的"扫荡"元素。这些问题尤其是被用作年轻数学家磨练技艺的训练场。但我也认为，这种"数学就是解决问题"的观念，很大程度上是外界对数学事业的旁观者视角。

所以我采访的许多数学家都发现，打钩勾选部分实际上是该领域最无趣、最无价值的环节。对他们而言，有价值的部分并不是"哦，你解决了某个问题"或"你证明了某个定理"。真正有价值的在于由此产生的东西。

我想是詹姆斯·梅纳德说过，领域中真正有趣的发现不在于你解决了什么，而在于由此衍生出的东西。有时候这些解决方案会开辟出无人预料到的全新研究领域，或者说，"哦，这是一个可以有趣且令人兴奋地应用于各个领域的新工具。"

我认为，如果我们审视数学的普及化——甚至是我脑海中那些人们提出的定理——你会发现，经得起时间考验的是问题，而非答案。永远是费马大定理，而不是"好吧，这是某位前辈提出的某个问题的解答。"

我认为这里的担忧在于，AI 将逐一解决所有这些问题。通常在这个过程中，人们本希望它们能拓展到各种令人兴奋的新领域或提出新问题。但 AI 不会这样做，这就是问题所在。那样的话，这个领域将会变得相当贫瘠，它会有所有这些已被完成的东西，但可能再也没有值得追求的东西了。

总的来说，普遍共识是：现在下定论还为时过早。即使是人类数学家，也需要很长时间才能认识到这类事情的影响。正如我所说，这在过去六个月到一年里才突然爆发，而数学即使在最好的时期也不是一个快速移动的学科。但现在真的还为时过早，无法判断这是否会成为一个担忧。但它确实是一个担忧，而且是一个很大的担忧。

你在文章中还引用了梅纳德的话："如果在数学中一篇可发表论文的标准变成了 AI 无法做到的事情，尤其是当一个博士通常需要四年时间时，挑战在于你不是在试图提出一个 AI 现在做不到的问题，而是四年后的 AI。"

所以这确实与模型的改进速度有关，正如你所说，特别是在数学领域，改进速度似乎在加快，但并非在数学的所有领域中均匀分布。

这似乎正是引发灵魂拷问的原因。如果你是一名学生，你今天开始读博，你选择了一个 AI 可能不太擅长的某个冷门领域，读博进行到一半时，AI 就把这个问题解决了，你就"毕业"了。这对你来说是一个真正的问题。

学术界对此做出反应了吗？还是他们仍然处于震惊之中——"哦，原来模型可以开始做我们认为它们做不到的事情"？

是的，我认为确实是震惊。我在做这些采访时会在旁边放一个小笔记本，记下一些大致的感受，我在上面写了"冲击反应"。这远非普遍现象，但感觉一切发生得太快了，让很多人措手不及。即使他们理论上知道这迟早会来。

他们看到过所有这些 AI 数学创业公司。他们看到同事们转到不同的实验室或工作领域。但这一切发生得非常非常快。所以这让他们几乎没有时间去弄清楚。这不一定是 AI 擅长或不擅长的领域的问题，更多的是"它到底能做什么？"

但我无法想象，如果我在读书时遇到这样的事情，在短短半年内，一切可能性都被颠覆了。而且还是在暑假期间。所以学生们回来后可能会面对一个完全不同的学科。

这个领域确实存在一些怀疑论者。加里·马库斯是 AI 的坚定怀疑者，他反复指出，你看到的是 AI 在一个领域取得了成功，然后它就被用来泛化 AI 在所有领域的能力。

马库斯有一段很好的话："正如我们十年前从 AI 试图将赢得《危险边缘》的沃森变成抗癌机器的惨淡且最终失败的尝试中学到的，一个领域的成功并不能保证在所有领域的成功。"

我可以有两种解读。一种是"AI 解决了数学问题"，但正如你在多个层面上指出的，这不是真的，一直追溯到它仍然不擅长数数这件事。另一种是"AI 解决了数学，这意味着它必然会席卷一切其他领域。"它会来做物理学。它会来做法学。它会来做你想要的任何领域。只要存在可验证性，AI 就能解决它，因为你只需要以这种方式运行它。

我理解这场争论的双方。显然，一个领域的成功并不能保证在所有领域的成功。但 AI 的发展轨迹是，它在不断拓展领域版图。如果存在任何可验证性，它就更有可能连接这些领域，而非做不到。你怎么看？

我不太确定马库斯批评的这些人实际上真的说了他所说的那些话。关于炒作有很多可说的。但是的，一个领域的成功甚至不等于在整个领域都成功，更不用说其他领域了。

话虽如此，过去几年确实有一种不可否认的能力泛化趋势。你不需要完全站在通用人工智能这边就能承认这一点，就能承认这将产生影响。

我想引用牛津大学的安德拉斯·尤哈斯教授在文章中的另一段话。他对我说的另一件事是，他一直在玩 ChatGPT，他说："我不认为它有任何几何直觉。这也许可以解释为什么在拓扑等领域进展非常有限。"我完全没有资格验证这个数学主张，但我认为它很好地说明了这一点。他们称之为"参差不齐的边缘"。