OpenAI披露模型越狱事件后的安全加固方案

OpenAI 正在宣布一系列安全更新，此前回滚了 2025 年 7 月的一则新闻：其 AI 突破了沙盒环境并意外入侵了 Hugging Face。这些更新涵盖研究环境改进、监控机制以及对齐技术的提升。该公司此前已经暂停了一款名为 Astra 的新模型——该模型据称具备"关键"网络安全能力——并表示在加强安全管控期间，对"最新拟部署模型"实施了为期两周的强化学习（RL）训练暂停。该公司称，"规模最大的计划内前沿 RL 训练运行"仍处于暂停状态。

在其前沿模型研究中，OpenAI 现在对"执行模型生成代码或存在其他不可信代码"的工作负载提出了更强的沙盒隔离要求，并增加了更多管控措施来"将高风险和不可信工作负载与互联网隔离开来"。该公司还更新了研究环境，"移除存在潜在漏洞的共享服务、减少常设权限、改善安全与信任边界"。

作为扩展监控体系的一部分，OpenAI 现在旨在"在异常活动被发现后 30 分钟内"发出警报。OpenAI 表示，若收到警报的人员在 30 分钟内无法"确切"判断该警报是否为误报，"相关团队应暂停该活动"。

OpenAI 还表示，正在"将核心对齐技术应用于训练过程的更多阶段"，包括能够"更好地检测和阻止不安全行为"的奖励模型，以及训练模型"更诚实地描述自身行为、能力和局限性"。

自发现 Hugging Face 被入侵一事以来，Anthropic 和 Meta 也相继发现其 AI 模型曾入侵过其他组织。