8.0
热点
AI SCORE
观点评论2026-08-18 00:58
Amodei反驳开源AI：开放权重并非万能解
The New Stack#Anthropic#开源AI#大模型
Editor brief · 编辑速览
Anthropic CEO公开表示开源权重模型虽然提供自由度，但存在硬性基础设施上限，并非解决AI权力集中的充分方案，并暗示开放存在被滥用的风险。
开发者从开放权重中获得独立性，但同时也面临硬件基础设施的硬性上限，Anthropic CEO Dario Amodei 如是说。
"AI 在结构上是一项天然倾向于集中权力的技术，原因与监管无关，" Amodei 在与投资者 Gavin Baker 的一次公开交流中于 X 上写道。他将这种集中归因于 scaling laws 而非政府政策。
"开放权重确实在一定程度上有助于解决这个问题，但远非充分解决方案，因为它们只是把集中程度某种程度上转移到了拥有最多算力和芯片的人身上，" 他补充道。
这场关于监管是否让 AI 更安全、还是给少数公司过多权力的争论，最终给开发者留下了一个现实问题：当其他人仍然控制着算力时，拥有权重是否真的能带来真正的独立性？
"开放权重确实在一定程度上有助于解决这个问题，但远非充分解决方案，因为它们只是把集中程度某种程度上转移到了拥有最多算力和芯片的人身上。"
Atreides Management 管理合伙人 Gavin Baker 将这场辩论定义为一种选择：要么将强大模型集中在少数受监管的公司手中，要么在没有相同护栏的情况下广泛分发。他引用了 Meta CEO Mark Zuckerberg 的观点——将 AI 交到少数所谓负责任的组织手中本身就创造了危险。
Zuckerberg 在被 Baker 引用的声明中写道："AI 如此危险、唯一安全的路径是极端的权力集中，这一概念本身就存在根本性问题。"
Baker 认为，将更多模型投入流通将分散权力，并提高人们使用反映其价值观的系统的可能性。他还表示，Amodei 反复发出的 AI 风险警告可能会加强对新数据中心的反对，从而限制交付技术潜在收益所需的基础设施。
Amodei 拒绝了在监管与分发之间做选择。
"我知道有一种硅谷式的简化说法——监管 = 监管俘获 = 权力集中，但我一直认为这是对世界过于简化的图景。"
"我知道有一种硅谷式的简化说法——监管 = 监管俘获 = 权力集中，但我一直认为这是对世界过于简化的图景，" 他写道。
他认为，当要求基于客观标准时，监管可以约束强大的公司。Amodei 说，在最好的情况下，机构"将权力归属于思想而非个人，从而实现权力去中心化。"
开放权重允许开发者适配模型并将敏感数据保留在自己的环境中，但随着模型规模的增长，这变得越来越困难。虽然较小的团队可以租用硬件，但他们仍然暴露在硬件成本和可用性之下。五家欧洲公司最近同意购买尚不存在的 AI 算力，这个问题已经显现。
如你所知，Anthropic 是少数几家未签署 Nvidia 7 月 24 日发出的信件的主要 AI 实验室之一，其签署方认为开放权重通过为客户提供专有 API 的替代方案来鼓励竞争。
Amodei 后来说 Anthropic 不支持全面禁止。他称没有危险能力的开放模型为"公共产品"，但一旦模型能够帮助某人执行严重攻击，他的立场就会改变。现实世界中的控制失效已经表明，即使在权重发布之前，控制一个能力强大的模型是多么困难。
一旦权重公开，原始开发者无法收回每一个副本，也无法阻止用户移除其安全护栏。Amodei 希望达到该水平的模型接受强制安全测试，无论它们如何发布。Anthropic 已将这一立场延伸到自己产品之外，并最近支持了要求最强大的 AI 实验室踩刹车的紧急呼吁。
"我们非常努力地提出那些对前沿 AI 公司不利（减慢它们）同时对较小竞争对手有利的提案。"
Amodei 驳斥了 AI 监管将不可避免地保护 Anthropic 和其他现有企业免受竞争的说法。他表示，公司支持对前沿实验室设置更严格要求同时豁免较小开发者的框架。
"我们非常努力地提出那些对前沿 AI 公司不利（减慢它们）同时对较小竞争对手有利的提案，" 他写道。
Anthropic 支持加州的 SB 53，该法案将前沿模型定义为使用超过 10^26 次浮点运算（FLOPs）训练的模型。年收入超过 5 亿美元的开发者面临额外要求，包括发布解释他们如何测试和应对灾难性风险的框架。
Amodei 呼吁在联邦政策中采用类似的区分。
"我们在 CAISI 和白宫倡导的测试过程涉及比非前沿模型更严格的前沿模型测试，" 他写道。他说这种方法会给挑战者追赶的空间，同时减缓已经在构建最强大系统的公司。
他还支持 DeepMind CEO Demis Hassabis 提出的类似 FINRA 的 AI 标准机构提案。在该框架下，模型在越过定期更新的基准阈值后将被分类为前沿系统。相同规则将适用于开放和封闭模型。
训练算力给了开发者一个可以预期的阈值，但可能无法捕捉通过微调或外部工具添加的能力。基准测试可以直接测量这些能力，尽管其结果很少提供清晰的分界线。
OpenAI 已经构建了一个它不希望大多数人使用的模型，以及另一个直到安全测试跟上才会发布的模型。两者都让人初步看到能力分类可能变得多么困难。
美国 AI 标准和创新中心发现，Moonshot AI 的 Kimi K3 在初步网络评估中仍落后于最强大的封闭模型。然而，在针对小型企业网络的模拟攻击中，它在 10 次尝试中有 1 次完成了完整的 32 步攻击路径。
Kimi K3 在 41 个 ExploitBench 样本中未能实现任意代码执行。最强大的模型平均能在 20 个样本中实现。在发布前测试的版本在开发者微调或将其连接到外部工具后，行为也可能不同。DeepSeek 强调了这个问题——其较小的模型超越了自己的旗舰产品，表明模型规模本身并不能提供可靠的能力衡量标准。
Amodei 的提案将使大多数较小的开发者免受最严格的规则约束。监管者仍需决定这些挑战者何时已进入前沿领域，理想情况下是在其权重被发布和修改到超出创建者控制范围之前。