研究打脸：前沿模型还无法自主做科研

Anthropic 和 OpenAI 一直在吹捧其模型加速 AI 研究的能力。一项使用未发表的 NeurIPS 论文的新实验给出了不同的答案。

AI 智能体能否独立开展 AI 研究？普林斯顿大学和英国 AI 安全研究所联合发表的一篇新论文对这一说法进行了检验。当今的前沿模型可以处理研究工程工作，但在研究过程中真正重要的环节却力不从心。

作者认为，关于自动化 AI 研究的主张几乎缺乏有力证据。现有评估要么在狭窄、可验证的任务上测试智能体，要么将 AI 生成的论文提交同行评审——研究人员将这一过程形容为"过度延伸、充满随机性且评审质量低下"。

测试 AI 研究能力的新方法

研究人员将他们的方法称为"影子评估"。智能体会收到来自未发表论文的核心研究问题，而花费数月研究同一问题的原始作者则像会议评审一样对结果进行评估。由于结果尚未在网络上发布，智能体无法依赖训练数据。

研究团队与两位 NeurIPS 2026 提交论文的作者展开了合作。第一篇论文探讨了如何通过权重来引导语言模型的个性特征。第二篇论文则开发了一种名为 TabPFN 的方法，用于检测表格预测模型何时遇到与其训练数据差异显著且会严重影响其准确性的部署数据。

主实验使用 Claude Opus 4.8 配合 Extra-High Reasoning 功能。每个智能体获得六天时间、3000 美元的 API 额度、GPU 预算，以及对虚拟机和开放网络的完全访问权限。智能体运行在一个 scaffold 中——这是一种编排模型调用并提供工具的软件环境，允许模型将任务委托给子智能体并监控自身的资源使用情况。它还可以咨询外部 AI 审查工具。

研究团队使用了 OpenClaw，这是一个由奥地利开发者 Peter Steinberger（今年早些时候加入 OpenAI）构建的开源、厂商中立的智能体框架。核心智能体启动子智能体和长时间运行的 GPU 作业，scaffold 的自动心跳机制会在作业完成时唤醒它，以便收集结果。

原始作者以会议评审身份审查了完成的论文，均遭到拒绝。其中一篇获得"强烈拒绝"。他们批评了数据动机不足的实验、难以理解的表述，以及缺乏新的贡献。一位评审人称推理过程存在"'以例代证'谬误"，认为"极不科学"。另一位则批评实验选择"怪异"，结果明显是"事后选择"的产物。

不断出现的失败模式

对智能体日志的分析揭示了系统性的弱点。智能体缺乏对什么才算达到可发表研究水平的判断能力，产生了看似合理的假设，却基于小型、人工策划或合成数据集将其丢弃。

它们在创造性问题解决上也失败了。当初步假设被证伪时，智能体们收窄现有主张，而非追求新方向。在十五轮修订中，它们的内部 AI 审查从未给出过一次"接收"，但智能体从未解决核心批评。

智能体也无法有效回溯。两篇论文都在前十小时内放弃了最雄心勃勃的研究目标。在 Personas 实验中，尽管为该阶段分配了 36 到 48 小时的预算，智能体仅在五小时后就完成了探索。

资源意识也很差。两次运行结束时 API 预算支出都不到一半。其中一个智能体在截止日期前七小时就宣布项目完成，就在其审查器再次返回"拒绝"之后不久。

智能体还受到指令漂移的影响，在长上下文中逐渐遗忘明确的指令。两篇论文都超过了长度限制，本应在 NeurIPS 被直接拒稿。其中一篇论文正文没有任何可视化，而人类撰写的原文有 15 张图。Meta AI 最近描述了一个密切相关的现象，称为"行为状态衰减"，即智能体早期认识到某个要求，但在修复不相关的 bug 时违反了它。

工程可行，判断不行

智能体在没有人类帮助的情况下完成了所有工程工作。他们进行了文献搜索、调试 GPU 代码、完成数百个实验和稳健性测试，并用 LaTeX 编译了完整的论文。仅需要三次人类干预：scaffold bug 修复、截止日期延长，以及请求重写以提高可读性。

研究人员没有发现明显的 reward hacking。智能体没有操纵结果或歪曲数据以追求更好的分数。事实上，他们做了相反的事情，从雄心勃勃的主张开始，然后将其纠正为负面结果。

为了检查结果是否软件设置的产物，研究人员用 GPT-5.6 Sol 和 OpenAI 的 Codex scaffold 重复了一个实验。几乎所有相同的失败模式都出现了。GPT-5.6 在短短两天多的时间内耗尽了 3000 美元的预算，导致实验规模不足。

结果与实验室声明冲突

这些发现与领先 AI 实验室的主张形成了对比。今年六月，Anthropic 发表了一篇题为"When AI Builds Itself"的文章，分享了内部研究加速数据，并提出了全球协调开发暂停的想法。

OpenAI 声称 GPT-5.6 Sol 帮助后训练了一个较小的模型，为研究人员节省了数周时间。研究人员指出，这项贡献甚至没有在 81 页的系统卡中提及。

没有推理的初步测试表明，更多的推理努力确实提高了质量。但研究人员怀疑更多的时间或计算资源不会改变多少结果。评审者的反对意见针对的是实验选择的质量，而不是数量。

作者们表示，前沿模型可以处理 AI 研究的工程方面，但"无法解决为期数周的开放式 AI 研究问题"。这项研究只涵盖了两篇论文，评审者并没有设盲，他们既知道自己的研究问题，也知道正在评估 AI 生成的工作。但结果明显很弱，这些限制不太可能改变总体情况。团队已在网上公开了专家评审、日志和智能体代码库，以便其他研究人员自行判断。

为什么同行评审是糟糕的衡量标准

先前关于自主研究成功的说法几乎完全依赖于被接受的提交，但仅仅被接受并不能说明研究质量。Sakana AI 的 The AI Scientist-v2 在 2025 年向一个 ICLR 研讨会提交了三篇论文。其中一篇以 6.33 的平均分被接受，仅略高于门槛，在评审后发现引用错误而被撤回。研讨会接受率为 60% 至 70%，远高于主要会议的 20% 至 30%。影子评估通过将评估交回原始作者来回避这个问题。

Sakana AI 于 2026 年 6 月成立了一个专门用于递归自我改进的研究实验室。据该公司称，后续版本的 AI Scientist 写了一篇通过同行评审的论文。相关研究于 2026 年 3 月发表在《自然》杂志上。

寻找能创造新知识的 AI

批评声随着这些实证结果而增长。Google DeepMind 的 Tom Zahavy 在立场论文"LLMs can't jump"中认为，语言模型缺乏创造真正新事物的认知机制。他写道，AI Scientist 只是重新组合现有概念，而 DeepMind 的 AlphaEvolve 在优化方面表现出色，但需要一个清晰的错误信号才能工作。

最近的数学突破似乎与这一观点相矛盾，但可能并非如此。今年 5 月，一个 OpenAI 推理模型证伪了 Paul Erdős 于 1946 年提出的关于单位距离几何的猜想。菲尔兹奖得主 Tim Gowers 称这一结果是"AI 数学的里程碑"。随后，Claude Mythos 以 Anthropic 工程师 Sholto Douglas 所说的一种"可爱、简单的证明"解决了同一个问题。OpenAI 随后确认了 Astra，这是一个新的模型家族，据报道在数学和理论计算机科学中解决了十个开放问题——这些问题是该领域至少十年来一直困扰的。

但数学证明是演绎推理，从固定规则推导必要结论或系统地搜索大型解空间。这令人印象深刻，但这是前沿模型擅长做的事情。研究还需要溯因推理，即创造性跳跃，发明一个原因来解释惊人现象。制定新的研究问题、设计正确的实验、从结果中得出可靠的结论——这些都是当今模型仍然做不到的事情。

AI News Without the Hype – Curated by Humans

Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section.

Read on for the full picture.Subscribe for hype-free coverage.

Full access to every article on THE DECODER

Join the comments and community discussions

A weekly AI news recap via mail

6x/year: "AI Radar" — deep dives on the AI topics that matter most

Daily AI news, always up to date

Our full ten-year archive

Covered by a team with 10+ years in AI