OpenAI因安全阈值主动暂停Astra模型开发

OpenAI 公开披露，其正在开发中的 Astra 模型在其 Preparedness Framework（准备度框架）下达到了"关键网络安全阈值"，触发了某些开发活动的自愿暂停，并与政府机构及 AI 安全组织展开了接触。这对防御方而言是一个有意义的进展：一家主流实验室将其公开发布的安全框架付诸实践，在模型部署前主动喊停，展示了部署前能力评估可以作为一个真正的关卡，而非流于形式。不过，围绕阈值标准的独立验证、行业间标准化披露规范，以及政府和第三方评估流程在多大程度上能够及时对这些披露作出反应，仍存在一些待填补的空白。

阅读 Grid the Grey 上的完整技术深度解析：https://gridthegrey.com/posts/openai-pauses-astra-model-over-critical-cybersecurity-threshold/

我们是程序员分享、保持最新和职业成长的聚集地。