OpenAI 强化推理保护,提取成功率降至 0.2%
据报道,GPT-6.2 Astra 和 Sol 在自适应红队测试中,受保护推理的提取成功率从 54% 降至 0.2%。OpenAI 还每周封禁数千至数万个涉及协同蒸馏的账号。
AI 深度解读
OpenAI 正在收紧 GPT-6.2 Astra 和 GPT-6.2 Sol 的内部推理保护。原文给出的核心变化是:在 OpenAI 的内部自动化测试中,从历史请求提取受保护推理的攻击成功率,由 GPT-6 Astra 的 54.0% 降到了 GPT-6.2 Astra 的 0.2%。
这不是模型答题能力的比较,而是一次针对推理提取攻击的防御升级。对接入模型 API、使用 AI 编程工具的开发者,更有用的信息是它怎么设防,以及这些测试数字能说明多少问题。
攻击成功率大降,测的究竟是什么
原文区分了两类攻击:一类试图提取先前请求中的受保护推理,另一类针对正在处理的请求。
OpenAI 报告的结果分别是:
- 针对历史请求的攻击,成功率从 54.0% 降至 0.2%。
- 针对当前请求的攻击,成功率从 22.9% 降至 0.9%。
比较对象是 GPT-6 Astra 和 GPT-6.2 Astra。原文虽然也提到 GPT-6.2 Sol 加强了防护,但没有列出它的单独测试数字,不能把 Astra 的成绩直接算到 Sol 身上。
测试采用自适应黑盒红队方式,并汇总了六个攻击者模型的结果。黑盒是指攻击方通过输入和输出试探目标,自适应则表示攻击策略会根据反馈调整。攻击成功率简称 ASR,数值越低,代表这套测试中的防守效果越好。
这些数字支持的是特定推理提取攻击更难成功,不能据此判断模型整体更安全。
原文没有提供样本量、具体攻击提示、成功判定细则,也没有说明测试是否覆盖真实攻击中的全部路径。因此,降幅很大,但目前仍是 OpenAI 自己报告的内部测试结果。
为什么既要拦单次请求,也要批量封账号
OpenAI 的防御分成两层,分别处理一次攻击和持续攻击。
第一层围绕单次请求展开,包括针对性训练、消息与工具调用的输入输出过滤,以及 API 层面的阻断。最后一项针对的是旧模型读取受保护推理的路径。
这里的关键是工具调用也进入检查范围。模型应用往往不只收发聊天消息,还会通过工具交换内容。原文列出的防护覆盖这些接口,但没有披露具体过滤规则、API 名称或实现代码,开发者无法照着复刻。
第二层针对有组织的持续尝试。OpenAI 表示,每周会封禁数千至数万个账号。单次请求被挡住,并不代表攻击方会停手;账号层面的治理,是为了限制反复试探和协同行动。
OpenAI 还准备把部分改进带回 GPT-6 Astra。不过,原文没有列出回移哪些措施,也没有给出升级后的测试结果。
Anthropic 同样在应对系统性的蒸馏攻击,并封禁数万个账号。这里的蒸馏攻击,指借助目标模型的输出或内部推理来训练其他模型。原文称其相关防御在 90% 至 99% 的情况下奏效,但没有交代与 OpenAI 一致的测试口径,因此两家的百分比不能直接比较。Anthropic 还呼吁行业与政策制定者协同行动。
我的判断
我认同这种分层防御思路:训练、过滤、API 访问限制和账号治理,分别处理不同环节的问题。尤其是把工具调用纳入检查,比只关注聊天输入输出更贴近模型应用的实际结构。
但这篇短文没有给出各项措施的独立贡献,也没有与单独使用过滤器、仅靠训练等做法做对照。我们能看到整套方案的结果,无法判断哪一项最有效,更无法估算普通团队复制它需要多少成本。
还要分清保护对象。原文讨论的是受保护的内部推理,没有证明业务文档、用户数据或工具凭据也获得了同等程度的保护。对于应用开发者,模型供应商的这项改进值得关注,但不能替代自己对数据和工具权限的管理。
能拿来做什么
- 在评估 AI 编程助手或模型 API 时,先区分内部推理提取、业务数据泄露和工具越权,分别设计检查项,避免拿一个 ASR 数字覆盖全部风险。
- 如果你的 Node 应用会让模型调用工具,可以检查消息和工具调用的输入输出分别经过哪些校验,找出只保护聊天入口、遗漏工具接口的地方。
- 做内部攻击测试时,可以借鉴原文,将历史请求与当前请求分开统计,并记录测试样本和成功标准,让后续版本之间的比较有明确依据。