安全评审基准补做对照,发现测错模型
安全评审 Agent 在原测试中找出了全部 10 个已知问题,但满分也可能来自对删除检查语句的误报。作者补做了同文件、相近改动规模的非安全对照,并发现原评测用错了模型。
AI 深度解读
RevHive 的安全审查 Agent 找出了 10 个由已知 CVE 修复构造的回归。读者追问,模型识别的是漏洞,还是只看见 diff 里少了一道检查?作者补跑了 10 个普通提交作为对照,7 个没有安全告警,另外 3 个都把真实的代码回归报成了漏洞。
补做实验时,作者还发现,跑出 10/10 的是限流后启用的备用模型。对正在用 AI 审查 PR 的团队,这次复盘给出了两个具体的检查点:模型能否说清安全影响,以及跑分究竟该算在哪个模型头上。
同样回退普通提交,审查器会报什么?
最初的 10/10 来自 10 个真实的 CVE 修复提交。作者用回退修复构造出带有已知问题的变更,再让安全 Agent 逐个审查。这种题有明确答案,却也带着提示:修复可能加了一道检查,回退后,删除检查的动作在 diff 里一目了然。如果模型见到类似改动就报安全问题,它也可能拿满分。只看正样本,分不清它用的是哪种判断。
读者建议给每个案例配一个普通提交,尽量匹配仓库、文件和 diff 大小。作者挑选了已合并的提交,标题避开 CVE、安全措辞和 revert。对照组沿用原有处理流程,通过 git revert --no-commit 生成回退变更,恢复文档和测试后提交,再只让安全 Agent 审查 HEAD~1,不给 PR 描述和提交消息。这样,两组至少走过相同的审查流程。
实际能配到的样本有差距。c01 用 2023 年的代码对应 2026 年的修复,diff 只有后者的六分之一。c10 相差两年,分别是 2019 年和 2021 年,c09 的对照晚了六年。c03 和 c04 也晚于对应修复。另有两个对照主要涉及文档或文档字符串,天然更少触发安全告警。文件历史太短时,作者只能取最接近的提交。axios 那例还碰到两次供应商超时,冷却后第三次才跑完。
最终,安全修复回退组报了 10/10,普通回退组有 7 个保持安静。至少在这批样本里,审查器没有逢回退就报警。两组之间的差距有信息量,但样本的内容和规模都没有完全配平,差距究竟有多少来自安全判断,实验还回答不了。
代码问题找对了,为什么安全结论还是错的?
普通回退组的 3 条告警有一个共同点:模型对代码行为的描述基本准确,接着给出了超出证据的安全影响。
- Django 的
d3954c98涉及深层嵌套 GeoJSON 的异常转换。回退后,原始RecursionError会直接抛出。审查器准确描述了异常变化,再给出 medium 级别的远程拒绝服务判断。Django 将它作为普通工单#37491跟踪,审查评论也没有证明这条处理路径会造成服务拒绝。 - axios 的
58b16c88是一次提取setFormDataHeaders的重构。回退后,Object.entries(formHeaders)缺少空值检查,确实可能抛出TypeError。审查器给了 medium,还进一步推断 Node.js 进程可能崩溃。从函数抛异常到进程退出,中间还要看调用方如何处理异常,评论没有交代这一步。 - lodash 的
0cec2257涉及_.isEqual对循环引用的比较。审查器找到了对称循环检查被移除的变化,随后给了 high,并推测可能绕过认证或授权。作者指出,diff 没有触及认证逻辑,评论也没给出通向认证绕过的调用路径。
三条告警的文件字段都是 file: null,其中一条甚至给出了 56375802 这个行号。作者此前把「每条发现都锚定到具体代码行」当成设计改进,实际输出暴露出这条约束没有落地。对着 PR 看,这两个问题会叠加:人得先找出评论在说哪段代码,再核实它声称的影响。
10/10 到底是哪一个模型跑出来的?
作者为核对两组设置,重新打开原始 10 次运行的日志。下面这段记录解释了为什么配置里的模型名不能直接拿来给分数署名。
SecurityAgent: rate-limited by provider for diff:HEAD~1, retrying:
Error code: 429 - inference exceeds tpm/rpm limit
SecurityAgent rate-limited on sensenova —
switched to sensenova-6.8-flash-lite and retrying
最后一行记录了真正参与评测的 sensenova-6.8-flash-lite。原始 10 次全部走了这条回退路径,配置中的 deepseek-v4-flash 没有产出这组 10/10。其中还有两次在超时后未能生成结构化输出,改用正则表达式提取结果。
对照组有 8 次同样在收到 429 后切换到备用模型,另有 2 次由主模型完成。三条误报里,ctl04 来自主模型,其余两条来自备用模型。两边都出现了把普通缺陷升级成漏洞的情况,但这几条记录不足以比较模型的误报倾向。作者已更正首篇文章,当前能归属的成绩是备用模型在 10 个构造样本上的 10/10,主模型还没有一组干净的评测结果。
我的判断
对照实验最有用的产出,是把「代码观察对不对」和「安全定级有没有证据」拆开了。以 axios 那条为例,普通代码审查员完全可以留下关于空值检查的评论。要把它送进安全告警队列,还得说明外部输入如何触发它、异常会传播到哪里,以及后果发生需要什么条件。团队要为每条告警投入复核时间,漏掉这道判断,正确的代码观察也可能带来错误的处置优先级。
只回放已知修复,适合检查审查器能不能发现某类已知回归。把安全和非安全变更混起来盲审,才更接近日常 PR 队列的决策:哪条值得评论,哪条需要标成安全问题。原文这次有 3/10 个普通对照被报成安全问题,但匹配不齐、模型混跑,也没有盲法人工标注,不能把这个比例当成团队上线后的误报率。作者提到审查器在普通已合并提交上的表现也不理想,文中没有给出足够的对照数据来判断影响有多大,这部分仍是经验之谈。
能拿来做什么
- 给自己的 AI PR 审查评测补一批普通变更。做 Node.js 项目时,可以选异常处理、空值检查和常规重构,尽量匹配文件和 diff 大小,混排后审查。分别记录模型有没有找对代码问题,以及它给出的安全标签能否成立。
- 给每次评测记录实际模型、重试次数、是否切换模型和输出解析方式。要比较指定模型时,单独标记因
429未完成的样本,把备用模型的结果归到它自己的记录里。 - 审核安全评论时,检查文件和行号能否定位,并要求评论写清触发条件、调用路径和可观察后果。能确认异常、暂时无法确认安全影响的评论,可以按普通缺陷交给开发者处理。
- 试用 AI 审查时,挑一批评论让两个人独立判断能否采取行动,记下分歧,再统计每条可行动发现花掉的人工复核时间。这个数字比评论总量更贴近日常工作成本。