AI 验证 Signal:安全结论有多大边界
文章称 AlphaProof Code 用四周完成 Signal 核心协议编译代码的形式化验证,涉及前向保密、身份认证等四项性质。它强调规格由人类制定并审核,证明成立不能推导出整个应用绝对安全。
AI 深度解读
AI 用四周验证了 Signal 核心加密协议的编译后代码,听起来像是给整个应用发了安全证书。但原文真正讨论的是:在人工确定的规格与假设下,AI 能否生成由机器检查的数学证明,确认实现满足四项安全性质。
这个案例值得读,既因为它把过去往往耗时数年的工作压到了四周,也因为它展示了一个容易被忽略的分工:人决定证明什么,AI 寻找证明,Lean 检查证明是否成立。理解这三者的边界,比记住「AI 证明了 Signal 安全」更有用。
四周完成的验证,到底覆盖了什么
据原文,Google DeepMind 的 AlphaProof Code 验证对象是 libsignal 中的后量子 PQXDH 握手和 Triple Ratchet,并且深入到编译后的机器码,不只检查协议设计。
验证覆盖四项性质:
- 前向保密:即使密钥后来泄露,过去的通信仍应受到保护。
- 身份认证:通信参与者的身份满足协议规定的认证要求。
- 入侵后安全:系统遭到入侵后,在协议规定的条件下能够恢复后续通信的安全。
- 握手机密性:握手过程满足形式规格中定义的机密性要求。
这些是帮助理解的解释,具体保证仍要以形式规格为准。原文没有展开各项性质成立所需的完整条件。
证明实现满足四项性质,不等于证明整个 Signal 应用绝对安全。
操作系统、硬件、元数据处理和客户端行为都不在这次保证之内。时间侧信道和硬件故障,如果没有进入模型,也不会因为证明通过就自动得到保障。
原文还区分了产品关联的证据来源:DeepMind 博客明确提到 Signal 和 Google Messages 使用 libsignal;WhatsApp 和 Messenger 的关联来自二手报道,不能混作同一级别的证据。
AI 写证明,为什么还需要人写规格
AlphaProof Code 是一个多 LLM 智能体框架,工作方式类似研究团队。
人类研究者先与模型一起,把安全目标转成形式化数学规格,而且每一份规格都经过专家审核。随后,由 Gemini Carbon 驱动的智能体团队生成 Lean 证明,最后交给 Lean 内核进行机器检查。没有通过检查的证明不算数。
这里的「规格」,可以理解为把「应该安全」改写成条件明确、能够接受数学检验的命题。AI 负责寻找推导过程,Lean 负责检查这些推导是否符合规则。
机器可以严格检查证明,却不会替团队判断规格有没有漏掉真正关心的风险。
原文引用的数据也需要分开看:DeepMind 博客正文称生成了超过 600 万行 Lean,摘要则称超过 300 万行经过机器检查的证明。两个数字的统计关系没有说清,不能擅自合并。原文另称,智能体仅将约 1% 的代码库标记为需要人工复核,其余经过机器检查;这不等于整个项目只有 1% 的工作需要人参与,前面的规格制定和专家审核同样依赖人。
此外,证明还依赖可信基础:规格、编译产物和底层假设都需要独立审视。证明再严密,也只能回答被写下来的那个问题。
把两个旧漏洞放回去,比只看通过更有说服力
DeepMind 做了一项反向实验:把两个已经修复的真实漏洞重新放进隔离副本,再让系统验证。系统最终给出了经过机器检查的证明,表明这个版本不安全。
这比单独展示一次验证通过更有价值。只看通过结果,很难判断流程是否真的能区分正确实现与错误实现;已知错误样本则提供了检验机会。
不过,要区分两种结果:「没能证明安全」可能只是证明能力不足;「证明这个版本不安全」则是更明确的结果。原文声称此次得到的是后者,但没有展开两个漏洞的细节。
两个样本能支持系统具有一定的辨错能力,还不足以说明它能覆盖所有错误类型。
我的判断
我认同这套分工的价值:让模型承担繁重的证明构造,再用独立检查器约束结果,比只接受模型的一段安全解释更可核验。验证深入机器码,也让证据更贴近实际运行的实现。
但「形式化验证的成本曲线已经改变」仍需保留条件。原文给出的对比是此次四周、历史上同类专家工作往往数年,没有提供同等范围下的人力、算力、准备时间和总成本对照。它展示了一个具体案例,尚不能据此认定普通团队也能四周复现。
原文作者进一步提出,开发者该从「能否负担验证」转向「先验证哪段代码」。我认为前半步仍不能跳过:AlphaProof Code 尚未作为通用软件包发布,目前开放的是验证产物和技术论文,不能直接当作现成工具接入项目。
和常见测试相比,形式证明能对明确模型中的性质给出更强保证;测试则更容易从具体输入和预期结果起步。对一般团队,更现实的取舍是先把关键约束写清,再判断哪些值得投入形式化验证。
能拿来做什么
- 阅读已公开的验证产物和技术论文,重点看规格如何定义安全目标、列出假设,而不只看生成了多少行证明。
- 从自己的 Node 服务或其他项目中,挑出一段最关键、最不敢改的逻辑,先写清输入条件、允许的结果和必须始终成立的约束,再评估能否形式化。
- 验收 AI 辅助验证流程时,在隔离副本中重新引入一个已知缺陷,检查它能否识别问题,并区分「验证未通过」与「已经证明存在错误」。