8.0
热点
AI SCORE
技术实践2026-09-29 03:11
OpenAI 安全负责人谈 AI 能力突变下的组织弹性
Simon Willison#OpenAI#AI安全#工程实践
Editor brief · 编辑速览
OpenAI 内部安全负责人分享模型在网络攻击、集群行为上能力突变带来的挑战,呼吁企业建立应对机制。
说实话,当我们的模型在"网络攻击""蜂群行为""留言板"或任何与这些事件相关的领域展现出能力时,我们对其跃升的速度和突然性感到意外——这种说法远远不够。安全态势的建立需要时间。它不仅仅是加固正在运行的系统;你必须将其深植于公司的文化之中。你组织中的每一个人——实实在在的人——必须随之改变和进化。这些能力的跃升来得如此之快、如此突然,以至于造成了一个极其棘手的问题。[...]
所以,今天我希望全世界各地的人们都能审视自己的组织,问自己:我们该如何应对 AI 能力的意外或突然跃升?我的人、我的系统、我的流程,是否对意外具有韧性?当出了问题时,我的团队知道该怎么做吗?我有适当的事件响应吗?有适当的沟通和信息发布机制吗?当能力跃升时,我是否有合适的人员随时待命?
— @joedaroo,OpenAI Agent 安全负责人,经 The Information 的 Rocket Drew 身份确认
2026 年的大语言模型(截至目前) - 2026 年 9 月 27 日
Claude Opus 5.5、GPT-6 Sol、GPT-6 Luna 以及新一轮价格战 - 2026 年 9 月 22 日
Jev 推出新型 LLM 形态 - System One,又名决策模型 - 2026 年 9 月 21 日
这是 Simon Willison 于 2026 年 9 月 28 日收集的一则语录。