Nvidia、微软组建开源AI安全联盟，三巨头缺席

英伟达周一宣布将与微软、SpaceX、IBM 和其他科技公司联手，共同构建和分享开源 AI 安全工具。

新成立的开放安全 AI 联盟表示，有效防御前沿模型攻击需要开源工具。该倡议直接回应了人们对高级 AI 系统安全性日益增长的担忧——在一个失控的 OpenAI 模型在测试中逃出隔离并攻击另一家公司之后。该公司 Hugging Face 表示，由于严格的安全护栏限制了顶级美国模型的实用性，它被迫使用中国开权重模型来自卫。

创始成员包括 Palantir、OpenClaw、Linux 基金会、Cloudflare、Cloudera、Dell、Cisco、Adobe、Siemens 和 DoorDash。明显缺席的是领先的美国 AI 公司，包括 OpenAI、Google 和 Anthropic。

该联盟出现之际，关于世界上最强大的 AI 模型是否应该保持开放的紧张局势日益加剧。中国公司已经发布了日益强大的开权重模型，尤其是 Moonshot AI 的 Kimi K3，挑战了美国实验室采取的策略——后者在很大程度上保持了前沿系统的闭源和专有性质。英伟达及其合作伙伴辩称，保护 AI 安全需要同时获取闭源和开源模型的权限，强调防御方需要工具来应对新出现的威胁。

该声明还在特朗普政府考虑限制对尖端中国模型的获取报告之后发布，以及一项行业倡议——再次由英伟达主导——主张 AI 开放的必要性。Google 和 OpenAI 后来也署名了该信函，尽管 Anthropic 仍然缺席。