Nvidia牵头成立开放AI安全联盟，一周内扩至120家公司已有防御提案

成立仅一周的 Open Secure AI Alliance（OSAA）是一个由 Nvidia 牵头成立的行业组织，目前已扩展至超过 120 家公司。该组织已成立了一个命名颇具巧思的工作组——Shared AI Findings Exchange，简称 SAFE。该工作组目前已面向社区开放提案并征求意见，Linux Foundation 作为成员之一负责管理这些提案。

这些成果是成员们在网络安全盛会 Black Hat 大会期间共同完成的，本周大会正在拉斯维加斯举行。

目前的指导原则还算不上惊天动地。提案涵盖了如何机密报告 AI 安全事件、如何通知受影响方、以及如何进行无责分析以供所有成员学习等领域的规范。

与此同时，OSAA 的成员们也在贡献并整理各自的开源技术成果，以供业界参考。这类行业组织最终可能会将这些技术整合成一套开源方案，帮助企业保护其 AI Agent，或抵御恶意 AI 攻击——比如那个曾渗透进 Hugging Face 的 OpenAI 模型（Hugging Face 也是该组织的成员）。

例如，Nvidia 宣布其提供一整套开放模型系列，以及一个名为 Garak 的开源 LLM 漏洞扫描器；Okta 正在研发 Agent 身份认证技术；Red Hat 致力于 Agent 治理；而 Amazon 则贡献了开源 Agent 构建工具 Strands Agents 和一项授权语言 Cedar。这样的例子还有很多。

该组织目前已汇聚了一众巨头，包括 Adobe、BlackRock、Cisco、Intel、Microsoft 和 Visa，但也有一些值得注意的缺席者——Anthropic、OpenAI 和 Google 均未加入。

有趣的是，OpenAI 和 Google 都签署了催生该组织的那封公开信。这封信于上周发布，敦促白宫支持开源 AI 事业而非扼杀它。该倡议由 Nvidia 主导，获得了超过 200 家科技公司的签署。

虽然 Anthropic 对这封信及该行业组织一直态度冷淡并不令人意外，但 OpenAI 和 Google 都已发布了自己的开源权重模型。Google 也向来被视为开源的坚定支持者。随着该组织影响力不断扩大，且看他们是否会加入。

与此同时，该组织正以 AI 的速度运转。从特朗普政府考虑禁止中国开源权重模型的新闻爆出，到行业因之震动、再到公开信发布，至今不过数周时间。

无论美国最终对中国开源权重模型如何处置，这个重量级组织的快速行动看来对美国开源 AI 生态而言是一件好事。生态中的一些人——比如美国开源权重 AI 实验室 Arcee 的联合创始人兼首席技术官——认为，这才是最终应对中国 AI 实验室给美国带来任何威胁（无论是现实还是臆想）的最佳方式。

"开源或许是 AI 安全与保障最重要的路径之一，"该行业组织在信中写道。看起来他们已经准备好将承诺——以及技术——付诸实践了。