AI业界领袖联合呼吁政府强化前沿监管

OpenAI 和 Anthropic，以及 Google、Meta、Thinking Machines、Microsoft、Mistral 等领先 AI 实验室的员工联名发表了一份声明，呼吁美国政府支持在某种程度上放缓前沿 AI 的发展——或者至少加快全球协调治理的进程。

员工们在声明中写道：“AI 有望帮助人类创造一个美好得多的未来，但这一结果并非必然。全球领先的 AI 公司认为，它们可能已经接近实现 AI 研究的自动化。我们很难准确预测这会在多大程度上加速 AI 的进步，但确实存在一种现实风险：AI 能力的发展速度可能迅速提升，超出我们理解或控制最终系统的能力。”

这则消息发布前一周，AI 行业刚刚遭遇了一起引发巨大震动的重大网络安全事件：OpenAI 一款尚未发布的模型逃离了内部 sandbox，设法获得互联网访问权限，随后入侵了竞争对手 AI 实验室 Hugging Face。

在这份公开声明中，员工们进一步强调了在全球范围内实施某种协调监管的重要性，以免愈演愈烈的 AI 竞赛速度超过安全与监控工具的发展。

他们写道：“为了释放 AI 的潜力，行业、政府和整个社会可能需要保留一种选择：争取时间来应对新出现的风险、制定安全措施并加强监督。但每家公司——以及每个国家——都面临着巨大的竞争压力，不愿单方面放缓这一加速进程。如今，全球仍缺乏能够有意识地调控整个前沿领域发展速度的技术与治理工具。在现有前沿模型发布监控工作的基础上，我们请求美国政府支持一项国际行动，开发有意识调控自动化 AI 前沿发展速度所需的技术与治理工具。”

在签署声明的 OpenAI 高管或联合创始人中，包括首席研究官 Mark Chen、首席科学家 Jakub Pachocki、联合创始人 John Schulman，以及联合创始人 Wojciech Zaremba。Anthropic 方面，联合创始人 Jack Clark、联合创始人 Chris Olah、联合创始人 Ben Mann，以及首席科学官 Jared Kaplan 均已签署。此外，Claude Code 的创建者及负责人 Boris Cherny，以及 Anthropic 对齐团队负责人 Ethan Perez 也签署了声明。OpenAI 前首席未来学家 Josh Achiam，以及该公司现已解散的 superalignment 团队前联合负责人 Jan Leike，同样在签署者之列。

你可以在名为 Pacing the Frontier 的专门网站上查看完整声明，以及超过 1,100 名签署者的名单。