Amodei澄清：支持开源模型但警惕中国AI竞争

Anthropic 的 Dario Amodei 回应：不反对开放权重模型，但担忧中国 AI

Anthropic 创始人兼 CEO Dario Amodei 在周一下午回应了业内传言，称他的公司以某种方式支持美国政府禁止开放权重中国模型或禁止开放权重模型总体的努力。

"任何读过我过往著作的人都应该知道，我不认为这样的禁令是有用的措施，但让我明确声明以消除任何疑虑：Anthropic 从未倡导禁止开放权重模型，"他写道，强调是他本人的。

他的回应来自于 Nvidia 创始人兼 CEO Jensen Huang 在周五在 X 上发表了一封公开信（这是他在该平台上的首篇文章）之后。在这封信中，Nvidia 以及包括 Hugging Face、Meta、Microsoft、Mistral 和 Nvidia 在内的一长串其他 AI 公司敦促政策制定者不要对开放权重 AI 模型施加广泛的"仓促限制"。

虽然那封信没有具体提及中国，但业内的辩论围绕着一个指控：中国 AI 实验室通常通过窃取美国同行的知识产权来提升能力。其中一种方法是蒸馏，即一个 AI 用提示轰炸另一个模型来学习它的工作原理。

Amodei 在周一发布的博客文章中表示，他认为开放权重模型与中国构成的威胁属于不同的范畴。"没有危险能力的开放权重模型是公共财富：除了运行它们所需的计算成本外，它们不产生任何成本，并且为企业、开发者和研究人员提供价值。"

Amodei 在他的文章中表示，他对 AI 有长期的担忧，但使用开放权重模型的业务，即使是来自中国的，也不在其中。

他的担忧是"专制政府"将建立比美国更强大的模型以实现"永久军事优势"和/或使用 AI 来压制自己的人民。他表示，中共不是他关注的唯一专制政府，但它是"最具能力的"。

Amodei 还表示，他担心 AI 将使"生物攻击"以及网络安全攻击成为可能。在他看来，在这些场景中，开放权重模型更危险，因为很难对它们应用防护措施或监控它们的使用。他还援引英国 AI 安全研究所的报告指出，一旦开放权重被发布，它们就无法被收回。

这与开源倡导者的论点相反：他们认为获得不受单一实体控制的强大开放模型有助于防卫者保护自己。

Amodei 列举了他认为可以阻止中国的行动，包括限制其获得强大芯片的途径（这一直是美国的长期政策）以及呼吁对蒸馏进行正式打击。美国已威胁对中国实施制裁，如果它确定存在涉及美国模型的知识产权盗窃。

有趣的是，Amodei 还表示支持日益增长的努力（其中一些由美国牵头）来建立模型安全测试组织，特别是如果整个世界（包括中国）都同意遵守的话。

"我认为这个想法实际上接近达成共识：我对特朗普政府在最近几个月朝这个方向发展，以及最近行业提议都感到欣慰，这些提议将这样的测试应用于最有能力的模型，无论其国家来源或是否开放或封闭（同时完全豁免能力较弱的模型，例如来自创业公司和学术界的模型），"Amodei 写道。

"请注意，为了有效，"他补充说，"测试需要是全球性的，这意味着即使中共也需要参与其中。我认为这实际上是可能的...关于防止 AI 生物武器的有限合作可能是可能的，因为这也符合中国的利益。"