Anthropic CEO：AI天然趋向集中，开源只是转移权力

在 X 上，投资人 Gavin Baker 和 Meta 研究员 Yann LeCun 等专家指控 Anthropic CEO Dario Amodei 通过渲染恐惧来推动 AI 规则落地。他们说，这些规则主要受益的是他自己的公司，并将权力集中化。

Amodei 反驳了这一说法，认为他的监管提案旨在放慢大型实验室的步伐。他表示，开源 AI 模型并非解决方案，因为它们只是将市场力量转移给拥有最多算力的提供商。

前政府顾问 David Sacks 则反驳说，Anthropic 故意雇佣前官员来制定对其有利的法律。Amodei 一直呼吁的 AI 模型审批机构，也会削弱美国对中国的竞争力。

X 上爆发了一场关于 AI 监管与权力集中的公开争论

投资人 Gavin Baker、前白宫顾问 David Sacks 和 Meta 研究员 Yann LeCun 指控 Anthropic CEO Dario Amodei 利用恐惧话术为自己赢得监管优势。

争论始于 All-In Podcast 上的一番话。投资人 Gavin Baker 表示，Anthropic CEO Dario Amodei 曾在内部告诉人们，公司有朝一日可能成为世界上唯一的私营企业，身边只剩下各国政府。Anthropic 研究员 Sholto Douglas 称这一说法"完全虚假"。他说，权力的经济集中正是 Anthropic 最担忧的事情。他辩称，AI 市场已经是世界上竞争最激烈的市场，因为每家大公司都在竞相构建更智能、更廉价的模型。

Baker 随后阐明了这场争议的核心：If AI is potentially dangerous, there are two basic stances. Either you consider it too dangerous to spread widely and concentrate it among a few companies and politicians, or you consider it too dangerous to concentrate and spread it as far as possible. 在 Baker 看来，纵观历史，几乎没有哪个绝对权力会仁慈地照顾人类的先例。

前 Meta 首席研究员 Yann LeCun 也坚定地站在开源 AI 一边。他表示，与印刷术和互联网一样，AI 通过改善知识获取来放大人类智能。社会需要具有不同价值观的多元化 AI 系统，正如它们需要多元化的新闻媒体一样。最终，一个人的好 AI 将与另一个人的坏 AI 对抗。

Amodei 对批评者的回应

这场漫长的讨论最终引来了 Amodei 本人的参与。在其今年第四条 X 推文中，Amodei 称这种框架是个伪命题。他说，在硅谷部分地区，流行的假设是监管必然意味着监管俘获，即一个行业为自己的利益撰写自己的规则。但这太过简单了。他辩称，监管也可以约束企业权力并帮助普通公民，当好的制度将权力锚定在理念而非个人身上时。

正因为如此，Anthropic 故意设计其提案来放慢领先实验室的步伐并有利于较小的公司。他以证据显示，加州的 SB53 法律完全豁免了低于收入或训练成本门槛的公司。他表示，权重可以自由获取的开源模型只是部分解决了问题，它们只是将集中度转移到拥有最多算力和最多 AI 芯片的人手中，这又把它带回了大型实验室。他说，AI 正在以其本质结构实现集中，主要是因为 scaling laws，而非因为监管。

投资人 David Sacks 不久前还是白宫 AI 顾问，他在九部分回复中反击了 Amodei 的说法。他说，最引人注目的是，Amodei 实际上并没有真正反驳 Baker 的报道，尽管他完全可以做到。Sacks 认为，Amodei 的监管泡沫论是一个稻草人谬误，因为几乎没有人真的认为每条监管都是俘获。他指向诺贝尔奖得主 George Stigler 的定义，根据该定义，一个行业获得规则并主要为自己的利益运作，而对更广泛公众的利益仍然分散且无组织。

Sacks 说，Anthropic 完全理解这种机制，并从拜登政府招募了几位前 AI 官员，同时建立了一个大型政府机构。他嘲笑 Amodei 提出的联邦机构在发布前审查顶级模型的提议，称其为 AI 的审批办公室。Sacks 说，这样的审查程序会造成长队，并使美国在与中国竞争时放缓，而中国不会采纳这样的要求。

Baker 则认为，争论已经结束：除了 Anthropic 之外，几乎每家主要公司都在 Jensen Huang 的信上签了名，支持开源模型。