OpenAI裁撤安全风险评估团队，安全工作分散至其他组

OpenAI 于 7 月底解散了"Preparedness"团队。据《金融时报》援引内部人士报道，该团队负责评估该公司 AI 模型是否可能带来严重或灾难性风险。其在生物与网络风险方面的工作已拆分至现有团队。

前团队负责人 Dylan Scandinaro 目前专注于"递归自我改进"AI 的安全风险，即能够优化自身并训练其他模型的系统。联合创始人 Greg Brockman 表示，OpenAI 已将安全工作更深地融入模型开发流程。

近期多位安全团队成员相继离职，包括首席伦理官 Chloe Bakalar 以及 Joshua Achiam。内部不安情绪正在蔓延。一名内部人士形容，存在一种"责任感与恐惧交织的暗流"，担心 OpenAI 在安全方面做得不够。员工们也公开表达担忧，尤其在 Hugging Face 涉及 autonomous hacking 事件之后。一名员工表示，他希望 OpenAI 能将此视为一记"警告枪"。

AI 新闻，不过滤、不炒作——由人类甄选

订阅 THE DECODER，享受无广告阅读、每周 AI 通讯、每年六期的独家"AI Radar"前沿报告、完整档案访问权限，以及评论区参与资格。