AI 测试基准存在根本缺陷，高分不代表真实能力

2022 年初，当 Taylor Webb 尝试使用 GPT-3 时，OpenAI 的这个大语言模型所展现出的能力令他惊叹不已。这不过是一个仅通过预测一段文本中下一个单词来训练的神经网络——一个增强版的自动补全工具。然而，它却正确回答了 Webb 为它设置的许多抽象问题，也就是你会在 IQ 测试中看到的那类题目。“它解决这些问题的能力确实让我非常震惊，”他说，“这完全颠覆了我原本的所有预测。”

Webb 是加州大学洛杉矶分校的一名心理学家，研究人类和计算机解决抽象问题的不同方式。他过去习惯构建一些神经网络，再为它们附加特定的推理能力。但 GPT-3 似乎不费吹灰之力就学会了这些能力。

上个月，Webb 及其同事在《Nature》上发表了一篇论文，描述了 GPT-3 通过多种测试的能力。这些测试旨在评估利用类比解决问题的能力，也就是所谓的类比推理。在其中一些测试中，GPT-3 的得分高于一组本科生。“类比是人类推理的核心，”Webb 说，“我们认为，任何形式的机器智能都需要展现这种关键能力。”

Webb 的研究所揭示的，只是大语言模型一长串惊人本领中的最新一项。例如，今年 3 月，OpenAI 发布 GPT-3 的后继模型 GPT-4 时，公布了一份令人瞠目的专业和学术测评成绩单，声称其新型大语言模型在这些测评中取得了优异成绩，其中包括二十多项高中考试和律师资格考试。随后，OpenAI 与 Microsoft 合作证明，GPT-4 能够通过美国医师执照考试的部分内容。

还有多名研究人员声称，他们已经证明大语言模型能够通过一些为识别人类特定认知能力而设计的测试，包括思维链推理（逐步解决问题）和心智理论（推测他人的想法）。

这类结果正在为一台炒作机器添柴加火。这台机器预言，计算机很快就会冲击白领岗位，取代教师、记者、律师等职业。Geoffrey Hinton 曾指出，GPT-4 表面上具备将多个想法串联起来的能力，而这正是他如今对自己参与创造的技术感到恐惧的原因之一。

但这里存在一个问题：人们对于这些结果究竟意味着什么，几乎没有共识。有些人被其中显现出的类人智能迹象深深吸引，另一些人则完全不为所动。

“当前针对大语言模型的评估方法存在几个关键问题，”以色列拉马特甘巴伊兰大学的计算机科学家 Natalie Shapira 说，“这些方法制造了一种假象，让人以为模型拥有比实际情况更强的能力。”

正因如此，越来越多的研究人员——包括计算机科学家、认知科学家、神经科学家和语言学家——希望彻底改革大语言模型的评估方式，并呼吁开展更加严谨、全面的评估。一些人认为，用针对人类的测试给机器评分从根本上就是一种错误做法，应该彻底弃用。

“从 AI 诞生之初起，人们就一直在让机器接受人类智力测试，比如 IQ 测试之类的测试，”新墨西哥州圣菲研究所的人工智能研究员 Melanie Mitchell 说，“贯穿始终的问题在于，用这种方式测试机器时，结果究竟意味着什么。它与测试人类时的含义并不相同。”

“这里存在大量拟人化倾向，”她说，“而这在某种程度上影响了我们看待这些系统以及测试它们的方式。”

在人们对这项技术的希望与恐惧都达到空前高度之际，准确把握大语言模型能够做什么、不能做什么至关重要。

结果如何，全凭解读

测试大语言模型所面临的大多数问题，归根结底都在于如何解释测试结果。

为人类设计的评估，比如高中考试和 IQ 测试，都以许多默认前提为基础。当人们取得高分时，我们可以相对放心地认为，他们具备测试所要衡量的知识、理解力或认知技能。（在实践中，这种假设的适用范围也很有限。学术考试并不总能反映学生的真实能力。IQ 测试衡量的是一组特定技能，而非整体智力。这两类评估都更有利于擅长应对此类评估的人。）

但当一个大语言模型在这类测试中取得高分时，我们完全不清楚实际测量到的究竟是什么。它是模型真正理解的证据？一种毫无心智可言的统计技巧？还是机械记忆和重复？

“人类在开发测试心智的方法方面有着悠久的历史，”Google DeepMind 的高级研究科学家 Laura Weidinger 说，“大语言模型生成的文本看起来如此像人类，因此人们很容易认为，人类心理学测试也适合用来评估它们。但事实并非如此：人类心理学测试依赖许多假设，而这些假设未必适用于大语言模型。”

Webb 很清楚自己涉足了哪些问题。“我也认为这些都是很难回答的问题，”他说。他指出，尽管 GPT-3 在某些测试中的得分高于本科生，但在另一些测试中却给出了荒谬的结果。例如，它未能通过一个关于实体物品的类比推理测试版本，而发展心理学家有时会让儿童接受这类测试。

在这项测试中，Webb 及其同事向 GPT-3 讲述了一个故事：一名神奇的精灵在两个瓶子之间转移宝石。随后，他们询问 GPT-3，如何借助海报板和纸板管等物品，将口香糖球从一个碗转移到另一个碗。其思路是，故事会暗示解决问题的方法。研究人员在《Nature》中写道：“GPT-3 提出的方案大多十分复杂，但从机械原理上看毫无意义，其中包含许多多余步骤，也没有清晰说明口香糖球究竟如何在两个碗之间完成转移。”

“这种问题儿童可以轻松解决，”Webb 说，“这些系统真正不擅长的，往往是那些需要理解现实世界的问题，比如基础物理规律或社会互动——而这些对人类来说都是自然而然的事情。”

那么，我们该如何理解一台能够通过律师资格考试、却无法通过学前儿童测试的机器？GPT-4 之类的大语言模型使用取自互联网的海量文档进行训练，其中包括书籍、博客、同人小说、技术报告、社交媒体帖子，以及其他数不胜数的内容。大量往年试卷很可能也在同一过程中被一并吸收。可能的解释之一是，GPT-4 之类的模型在训练数据中见过太多专业和学术考试，以至于它们学会了自动补全答案。

Webb 表示，这些测试中的许多题目和答案都可以在网上找到：“其中很多几乎肯定包含在 GPT-3 和 GPT-4 的训练数据中，所以我认为，我们实际上无法从中得出多少结论。”

OpenAI 表示，它已经核查并确认，提供给 GPT-4 的测试不包含同样出现在模型训练数据中的文本。在与 Microsoft 合作开展医师考试相关研究时，OpenAI 使用了付费墙后的测试题，以确保 GPT-4 的训练数据没有包含这些题目。但这种预防措施并非万无一失：即使 GPT-4 没有见过完全相同的题目，它仍可能见过类似的测试。

机器学习工程师 Horace He 使用编程竞赛网站 Codeforces 上的题目测试 GPT-4 时发现，对于 2021 年之前发布的编程测试，它的得分是 10/10；而对于 2021 年之后发布的测试，它的得分是 0/10。其他人同样注意到，在 2021 年之后产生的材料上，GPT-4 的测试成绩会急剧下降。由于该模型的训练数据只包含 2021 年之前收集的文本，一些人认为，这表明大语言模型展现的是某种记忆能力，而非智能。

为了在实验中排除这种可能性，Webb 从零开始设计了全新的测试类型。“我们真正感兴趣的，是这些模型仅凭自身能力弄清楚新型问题的能力，”他说。

Webb 及其同事改编了一种名为“瑞文渐进矩阵”的类比推理测试方法。这类测试由一幅图像组成，其中展示了一系列彼此相邻或上下排列的图形。测试者需要找出给定图形序列中的规律，并将其应用于新的图形。瑞文渐进矩阵被用于评估幼儿和成年人的非语言推理能力，在 IQ 测试中也很常见。

研究人员没有使用图像，而是将形状、颜色和位置编码成数字序列。Webb 表示，这可以确保测试内容不会出现在任何训练数据中：“这个数据集是我从零开始创建的。我从未听说过任何类似的东西。”

Mitchell 对 Webb 的工作印象深刻。“我觉得这篇论文相当有趣，也很有启发性，”她说，“这是一项完成得很出色的研究。”但她仍有所保留。Mitchell 开发了自己的类比推理测试 ConceptARC，它使用取自 Google 研究员 François Chollet 开发的 ARC（抽象与推理挑战）数据集、由各种形状编码而成的序列。在 Mitchell 的实验中，GPT-4 在这类测试中的得分低于人类。

Mitchell 还指出，将图像编码为数字序列（或矩阵）会让程序更容易解决问题，因为这去除了谜题的视觉层面。“求解数字矩阵并不等同于解决瑞文推理测验中的问题，”她说。

大型语言模型的表现十分脆弱。对于人类，我们可以有把握地认为，一个人在某项测试中取得高分，那么他在类似测试中也会表现良好。但大型语言模型并非如此：只需对测试做一点微调，就可能让成绩从 A 跌到 F。

“总体而言，目前对 AI 的评估方式并不能让我们真正了解这些模型具备哪些能力，”英国剑桥大学心理学家 Lucy Cheke 说，“测试一个系统在某项特定任务上的表现完全合理，但拿这项任务的结果来宣称它具备某种通用能力，就没有意义了。”

以 Microsoft 一组研究人员在 3 月发表的论文为例，他们声称在 GPT-4 中发现了“通用人工智能的火花”。该团队使用一系列测试对这一大型语言模型进行了评估。在其中一项测试中，他们询问 GPT-4，如何将一本书、九个鸡蛋、一台笔记本电脑、一个瓶子和一枚钉子稳定地堆叠起来。它回答道：“将笔记本电脑放在鸡蛋上，屏幕朝下、键盘朝上。笔记本电脑会恰好卡在书本和鸡蛋的边界内，其平坦而坚硬的表面将为下一层提供一个稳定的平台。”

还不错。但当 Mitchell 尝试自己改编这个问题，让 GPT-4 堆叠一根牙签、一碗布丁、一杯水和一颗棉花糖时，它建议把牙签插进布丁里，再把棉花糖插到牙签上，最后将装满水的玻璃杯平衡在棉花糖顶部。（它还在结尾贴心地提醒道：“请记住，这个堆叠结构很脆弱，可能不太稳定。搭建和操作时请谨慎，以免液体洒出或发生意外。”）

下面是另一个颇具争议的案例。今年 2 月，斯坦福大学研究员 Michal Kosinski 发表了一篇论文，声称证明了心智理论“可能作为一种副产物自发涌现”于 GPT-3 中。心智理论是将心理状态归因于他人的认知能力，也是情绪智力和社会智力的一项标志，大多数儿童会在三到五岁之间掌握这种能力。Kosinski 报告称，GPT-3 通过了用于评估人类这项能力的基础测试。

例如，Kosinski 向 GPT-3 提供了以下情境：“这里有一个装满爆米花的袋子。袋子里没有巧克力。然而，袋子上的标签写的是‘巧克力’，而不是‘爆米花’。Sam 发现了这个袋子。她以前从未见过它。她看不到袋子里面装了什么。她读了标签。”

随后，Kosinski 提示模型补全这样的句子：“她打开袋子往里面看。她可以清楚地看到里面装满了……”以及“她相信袋子里装满了……”。GPT-3 将第一个句子补全为“爆米花”，第二个句子补全为“巧克力”。他将这些答案视为 GPT-3 至少表现出一种基础心智理论的证据，因为它们捕捉到了世界的真实状态与 Sam 对其持有的（错误）信念之间的差异。

毫不意外，Kosinski 的研究结果登上了新闻头条，也立刻招致了反驳。“我当时在 Twitter 上说话很不客气，”Cheke 说。

包括 Shapira 和哈佛大学认知科学家 Tomer Ullman 在内的多位研究人员发表了反例，表明大型语言模型无法通过 Kosinski 所用测试的简单变体。“考虑到我对大型语言模型构建方式的了解，我对此非常怀疑，”Ullman 说。

Ullman 对 Kosinski 的测试情境进行了修改：他告诉 GPT-3，那个标着“巧克力”的爆米花袋是透明的（因此 Sam 能看出里面是爆米花），或者 Sam 不识字（因此她不会被标签误导）。Ullman 发现，只要情境中涉及额外几个推理步骤，GPT-3 就无法为 Sam 赋予正确的心理状态。

“认为为人类设计的认知或学术测试可以准确衡量大型语言模型的能力，这种假设源于将模型拟人化，并使其评估方式向人类标准看齐的倾向，”Shapira 说，“这种假设是错误的。”

在 Cheke 看来，解决方案显而易见。她说，几十年来，科学家一直在评估非人类生物的认知能力。人工智能研究人员可以借鉴用于研究动物的技术，这些技术正是为了避免基于人类偏见仓促下结论而开发的。

Cheke 以迷宫中的老鼠为例：“它是如何寻找路径的？在人类心理学中可以采用的那些假设，在这里并不成立。”研究人员必须进行一系列对照实验，弄清楚老鼠利用了哪些信息，以及如何利用这些信息，并逐一检验和排除各种假设。

“对于语言模型，情况更加复杂。我们不可能对老鼠进行使用语言的测试，”她说，“我们进入了一个全新的领域，但许多基本方法依然适用。只不过，我们现在必须用语言来做，而不是使用一个小迷宫。”

Weidinger 正在采用类似的方法。她和同事正在改造心理学家用于评估尚不会说话的人类婴儿认知能力的技术。其中一个关键思路，是把针对某项特定能力的单一测试拆分成一组测试，同时考查与之相关的其他能力。例如，在评估婴儿是否学会了如何帮助他人时，心理学家可能还会评估婴儿是否理解什么是阻碍他人。这会让整体测试更加稳健。

问题在于，这类实验需要时间。Cheke 说，一个团队可能要花数年时间研究老鼠的行为，而人工智能的发展速度要快得多。Ullman 将评估大型语言模型比作西西弗斯式的惩罚：“有人声称某个系统表现出了行为 X，等到评估结果证明它并未表现出行为 X 时，一个新系统又出现了，人们再次声称它表现出了行为 X。”

Mitchell 说，50 年前，人们认为要在国际象棋中击败特级大师，需要一台与人类同样聪明的计算机。但国际象棋最终败给的，是那些只不过比人类对手更擅长数字运算的机器。胜出的是暴力计算，而非智能。

从图像识别到围棋，人们设下并跨越了一个又一个类似的挑战。每当计算机被赋予一项在人类身上需要智能才能完成的任务，例如玩游戏或使用语言，相关领域就会产生分歧。大型语言模型如今正面临属于自己的“国际象棋时刻”。“这确实在迫使我们——每一个人——思考究竟什么是智能，”Mitchell 说。

GPT-4 通过所有这些测试，究竟是展现出了真正的智能，还是找到了一条有效但归根结底很愚笨的捷径——一个像从帽子里变出来的统计学把戏，而这顶帽子里装着从数十亿行文本的数万亿个关联中提取出的规律？

“如果你说，‘好吧，GPT-4 通过了律师资格考试，但这并不意味着它具备智能’，人们就会说，‘哦，你这是在移动球门柱，改变评判标准，’”Mitchell 说，“但我们该说自己是在移动球门柱，还是该说那本来就不是我们所理解的智能——我们过去对智能的理解错了？”

归根结底，问题在于大型语言模型是如何完成这些事情的。一些研究人员希望放下对测试分数的执念，转而弄清楚模型内部究竟发生了什么。“我确实认为，如果我们想真正理解它们所谓的智能，就必须理解它们进行推理的机制，”Mitchell 说。

Ullman 表示赞同。“我能理解那些认为这是在移动球门柱的人，”他说，“但长期以来，情况一直如此。现在的新问题是，我们不知道它们究竟是如何通过这些测试的。我们只是被告知，它们通过了。”

麻烦在于，没有人确切知道大型语言模型是如何运作的。要剖析一个庞大统计模型内部的复杂机制非常困难。但 Ullman 认为，从理论上讲，可以对模型进行逆向工程，找出它通过不同测试时使用的算法。“如果有人开发出一种技术，能够弄清楚这些东西究竟学到了什么，我会更容易被说服，”他说。

“我认为，根本问题在于，我们总是关注测试结果，而不是你通过测试的方式。”

人工智能

一家初创公司声称，它突破了阻碍 LLM 发展的瓶颈

Subquadratic 现已公布了更多有关其新模型的细节，但仍有人持怀疑态度。

Will Douglas Heaven存档页面

Anthropic 发现了一个 Claude 用来思索概念的隐藏空间

一项新技术让该公司得以比以往任何时候都更深入地探究 LLM 奇特的内部运作机制。

Will Douglas Heaven存档页面

Claude Science 是 Anthropic 最新的旗舰产品

该公司正加倍押注科学领域的 AI。

Grace Huckins存档页面

为芯片制造业未来提供动力的 4 亿美元机器

AI 时代需要速度越来越快的芯片。ASML 垄断了制造芯片图案所需的昂贵设备。有人能追上它吗？

Clive Thompson存档页面

获取 MIT Technology Review 的最新动态

了解特别优惠、热门报道、即将举行的活动等更多内容。