Hinton、Fei-Fei Li、吴恩达论战：AI开源与安全如何平衡

随着 AI 安全问题日益突出，三位先驱者为保持开放发声

随着 "Pacing the Frontier" 等项目寻求以大型实验室为依托来保障 AI 研究安全，开源模型已成为行业的一个痛点。由于可以自由分发且对使用方式几乎没有任何控制，开源权重模型难以被管控，导致一些实验室将其视为相当可怕的存在。

但在上周于拉斯维加斯举行的 Ai4 大会上，三位全球最受尊敬的 AI 研究者——诺贝尔奖得主 Geoffrey Hinton、World Labs CEO 兼联合创始人李飞飞（Fei-Fei Li），以及 Coursera 联合创始人 Andrew Ng——就这一问题发声。尽管他们在具体策略上存在分歧，但三人都为保持 AI 开放做出了有力的论证。

对这三位演讲者而言，核心关切是允许少数大型 AI 公司控制发展节奏。当少数公司控制了某项技术的访问权限时——正如苹果和谷歌对移动操作系统的控制——创新可能会放缓，而控制平台的公司能够影响在其之上构建什么。

Andrew Ng 表示，他担心 AI 领域也出现了类似的动态。"我不希望出现看门人，"Ng 说。"这限制了我们所有人获取 AI 的能力。"

公司有动机保护自己的竞争优势，包括通过影响行业规则来做到这一点。这可能创造一种动态：只有规模最大、资本最雄厚的公司才拥有构建最先进 AI 系统的资源。

Ng 的解决方案是维持多个提供商，让模型和公司之间相互竞争，而不是允许少数玩家主导这个领域。"如果我要给出一条处方，那就是促进开放，"Ng 说，"因为 AI 是了不起的技术，我希望它能进入每个人的手中。"

但并非所有人都同意开源权重模型有助于维持这种局面。Hinton 尤其区分了开源软件——即提供底层代码供人检查和修改——与开源权重模型——后者是将训练好的 AI 模型的参数向公众发布。

"开源很棒。你把代码展示给人们，很多人会查看代码行然后说，'哦，这里有个 bug。'开源权重意味着你训练一个大模型，然后把权重交给人们。这就非常不同了，"Hinton 说。"我反对开放（权重），因为这让人们太容易获取这些大型基础模型——训练它们成本很高——然后用少得多的钱把它们训练成做坏事，比如网络攻击。"

但尽管有这样的保留意见，Hinton 承认开源权重模型已经是 AI 领域永恒的既定存在。"我认为那场仗已经输了。我们现在有了开源权重模型，所以获取这些大模型的障碍——也就是训练基础模型的成本——那个障碍已经消失了。太晚了。"

然而接受现实并不意味着忽视风险。Hinton 的立场很明确：AI 将继续发展，他认为这总体上是件好事。他说这将提高生产力，改善教育和医疗。"担心 AI 可能带来的坏处，以及智能存在在比我们更聪明时可能做的事情，我认为这并非不公平。我认为把有这样想法的人标签为恐吓者是极不公平的，"Hinton 补充道。

Ng 采取了不同的观点。他认为，问题不在于开源模型是否有风险，而是谁控制访问权，谁将赢得市场。无论谁构建出更便宜的模型，谁就拥有优势。他警告说，如果中国的开源权重模型在亚洲、非洲和/或发展中国家获得广泛采用，它们可能会影响数十亿人接触民主、自由和人权观念的方式。

"我希望我们做的一件事是鼓励美国保持竞争力和开源 AI。事实证明 AI 是巨大的软实力来源。你可以看到中国模型在非洲等方面取得的巨大成就，"Ng 说。"但我担心的是，由于美国所有的游说活动和恐吓言论，在美国构建开源 AI 正在努力与来自中国的开源权重模型竞争，我担心的是，如果中国找到了一种从根本上更节省成本的方式来构建 AI，那么更节省成本的东西就具有根本性的商业采用优势。"

李飞飞对这种框架提出了反驳。"把它变成从完全开放到完全封闭的二分法，是非常危险的，"她说。"在复杂的软件系统以及科学系统中，实际情况要复杂得多。"

李飞飞以核物理为例：科学论文是公开发表的，但铀受到监管，而实验室工作则介于两者之间。她解释说，教训是开放不一定要么全有要么全无。生态系统的不同层次可以在不同开放程度上运作。

她还强调了公共机构与私人机构之间的合作，比如人类基因组计划。她说，产生的知识成为了其他人可以构建的平台，使得制药公司能够获利、科学家能够推进研究、社会能够受益。

"所以我认为我们必须把（AI）用作这种基础设施，"李飞飞说。"我们需要在科学发现、教育、全球合作以及企业家的盈利商业模式等方面保持一定程度的开放。但我们也会接受闭源系统。这场辩论，特别是在'我们只能容忍一种'这种笼统的层面上，是一种错误的辩论。我们需要达到一种更细致的层面。"

但所有人都同意，一定程度的监管对于让 AI 走在正确轨道上是必要的。"我们要做的是朝着帮助人类的方向发展 AI，而监管将帮助我们做到这一点，"Hinton 说。"你不能把如何做 AI 的决定留给马斯克和扎克伯格这样的人。"