AI 代码能运行,仍需审查隐含风险
文章提出使用 AI 生成代码前的十项检查,强调核查隐含假设、数据暴露和异常路径。以分账舍入导致金额不守恒为例,说明正常运行一次不足以证明代码可靠。
AI 深度解读
AI 生成的代码,最容易让人放松警惕的地方,是它看起来已经完成了:能编译,正常流程能跑,改动也整齐。原文给出的结论是,真正需要检查的,是结果是否正确、权限是否完整,以及出错后系统会怎么处理。
作者把这些风险整理成了十项检查,覆盖依赖、密钥、数据访问、性能和测试。对前端和全栈程序员来说,它的价值在于把「仔细审查 AI 代码」变成具体动作,同时提醒我们:调查比例、研究基准和真实项目事故,不能混着解释。
能跑通,为什么还不能算正确
原文用分账说明了一个容易漏掉的问题:100 元分给 3 人,每人四舍五入得到 33.33 元,加起来只有 99.99 元。直接原因是每份独立舍入,没有分配余数;此外,二进制浮点也不适合直接承担金额计算。
下面这段代码用整数分计算,并把余数分给前面的人:
def split_bill(total_cents, people):
if people <= 0:
raise ValueError("people must be greater than zero")
base, extra = divmod(total_cents, people)
return [base + (1 if i < extra else 0) for i in range(people)]
print(split_bill(10000, 3)) # [3334, 3333, 3333]
要看的是 divmod 和后面的分配逻辑,两者共同保证总额不丢失。作者建议自己选择三个输入:空值或零值、边界值、已知答案,再补充不变量(invariant),这里就是 sum(shares) == total。
测试也可能只提供「跑过了」的错觉。原文的折扣函数把百分比除数写成了 10,正确值应该是 100;调用 apply_discount(200, 10) 不会报错,却得到 0.0。只有断言结果等于 180,才能抓住错误。
覆盖率证明某行执行过,不能证明结果正确。
作者建议手动改一个常量或翻转比较符,再运行测试。如果仍然全绿,就要检查断言是否覆盖了这条规则。Python 项目可以用 mutmut 自动化这种变异测试。
性能同样需要有代表性的输入。原文用 list(range(20000)) 和 list(range(0, 40000, 2)) 做重复成员检查,列表查询平均为 O(n),集合查询平均为 O(1),但创建集合也有成本。应按真实数据量判断,Python 可用 python -m cProfile -s cumtime script.py 定位耗时。
依赖和密钥,为什么要先查来源
模型可能推荐不存在的包,而空着的包名可以被别人注册。
原文引用的 USENIX Security 2025 论文,用 16 个模型生成了 576,000 份 Python 和 JavaScript 代码样本。商业模型的平均幻觉包比例至少为 5.2%,开源模型为 21.7%,共出现 205,474 个不同的幻觉包名。
这类风险也有现实演示。研究者 Bar Lanyado 注册了模型反复推荐的 Python 包 huggingface-cli,放入无害内容。据 The Register 报道,三个月内获得超过 15,000 次真实下载。不过,研究者没有确认实际利用事件,不能把下载量直接算成受害数量。
npm 项目可以先核对包信息,再做审计:
npm view some-package time.created maintainers repository.url
npm audit
npm audit signatures
要区分最后两行:npm audit 检查已知安全公告,npm audit signatures 检查已下载包的注册表签名和来源证明。它们都不能证明维护者没有恶意。Python 的 pip-audit -r requirements.txt 也主要检查已知漏洞;陌生包需要查看官方文档、仓库、维护者和发布历史,必要时隔离检查。
密钥则不能照抄 quickstart。原文用 os.environ["PAYMENT_API_KEY"] 替代硬编码,缺少变量时会直接报错,避免悄悄继续。
GitGuardian 的 2026 报告称,2025 年公开 GitHub 提交新增了 28.65 million,即 2865 万个硬编码秘密;Claude Code 辅助提交的泄漏率为 3.2%,全部公开提交的基线为 1.5%。报告也提醒,这不能简单归因于工具失败,开发者仍决定接受和提交什么。
落地检查包括 gitleaks dir -v . 扫描工作目录、gitleaks git -v 扫描历史,以及 GitHub push protection。真实密钥一旦进入提交,应轮换;后续删掉那行,旧提交依然留着它。
登录、输入和异常,哪些地方最容易漏
登录只确认身份,授权才决定这个身份能访问哪些数据。OWASP Top 10:2025 中,Broken Access Control 仍列为 A01。
原文的 Flask 路由 /invoices/<int:invoice_id> 即使已有 g.user,也必须比较发票的 owner。只检查记录存在,用户就可能改 URL 中的 ID 读取他人数据。返回 404 而非 403 是一种设计选择,可以避免确认记录存在。
Supabase 场景还要检查行级安全策略(RLS)。公开 anon key 可以出现在客户端,数据隔离依赖数据库策略。原文示例先执行 alter table invoices enable row level security;,再通过 to authenticated 和 using ((select auth.uid()) = owner_id) 限制读取。这个策略只覆盖 SELECT,写入、更新和删除需要各自的规则。
相关案例 CVE-2025-48757 涉及部分 Lovable 生成项目的 RLS 不足,但该 CVE 标记为 disputed,Lovable 认为客户有责任保护应用数据。这里能直接拿走的检查是:以用户 A 登录,请求用户 B 的记录,确认访问被拒绝。
输入处理则要分别看数据库、页面和日志。SQL 使用参数化查询;浏览器插入纯文本时优先 textContent;模板使用自动转义;日志采用结构化记录,并处理回车、换行等控制字符。
Veracode 2025 报告在四种语言、80 项代码补全任务上测试了超过 100 个模型,原始基准中 XSS 安全通过率为 13.53%,日志注入为 12.03%。这是受控任务结果,不能当成所有真实提示词的失败率。Bandit 等静态分析工具也只能补充审查。
异常处理的坑则是「出错后装作成功」。配置读取失败却被 except Exception 转成 {},会让应用带着默认设置继续运行。应让 FileNotFoundError、JSONDecodeError 到合适的层级处理,并在入口验证类型、范围、长度和允许值。OWASP 在 2025 年新增的 A10,正是 Mishandling of Exceptional Conditions。
原文给出的粗查命令是 grep -rnE "except( Exception)?( as [A-Za-z_]+)?:" --include=*.py .,但匹配结果需要人工阅读,也不能覆盖所有异常写法。
版本对得上,代码才有维护的起点
模型学过某个库,不代表知道项目锁定了哪个版本。应把生成代码与 lockfile 对应版本的文档核对。
例如 datetime.utcnow() 从 Python 3.12 起弃用,替代写法 datetime.now(timezone.utc) 返回带时区的对象;如果继续与旧的无时区对象比较,可能触发 TypeError。替换 API 时,还要检查数据语义有没有改变。
作者建议使用 pytest -W error::DeprecationWarning 暴露弃用问题,Node 项目可运行 node --trace-deprecation app.js,并通过 npm outdated 查看依赖版本情况。
维护性也需要直接检查:这个函数假设输入是什么,依赖失败会怎样,哪一行删除后结果不变?回答不清时,应核对解释并简化代码。十行任务引入重试框架、三层抽象和新依赖,可能只是增加维护成本。
我的判断
我认同作者把注意力放在「可信证据」上。金额守恒、跨用户访问测试、能被错误改动击穿的断言,都比代码看起来整齐更有说服力。
但十项检查并非 AI 代码专属,也适用于人工代码。原文没有给出团队实施前后的缺陷率、审查耗时或对照实验,因此不能断言这套清单能带来多少收益。它是一套有依据的审查建议,尚不是效果已经量化的团队流程。
调查数字也要分开读。Stack Overflow 2025 调查中,66% 的受访者抱怨答案接近正确却差一点,45% 认为调试 AI 代码更费时间;2026 年问的是信任,48% 在容易验证时信任,只有 6.6% 对包括重要工作决策在内的许多任务都信任。两年问题不同,不能拼成信任升降趋势。
与逐行人工检查相比,依赖和密钥扫描适合自动化;授权、业务不变量和异常后的行为,则需要人先定义正确标准。让 AI 再解释一遍可以帮助理解,但解释本身仍要与代码核对。
能拿来做什么
- 接受 AI 生成的计算或转换函数前,自己挑三个输入并写下预期结果;金额分摊等场景再增加总额守恒断言。
- 在 Node 项目中,把新增依赖核验、
npm audit和密钥扫描放进现有检查流程,对陌生包补查来源。 - 给返回用户数据的接口增加用户 A 访问用户 B 数据的测试;使用 Supabase 时,分别检查读、写、更新和删除策略。
- 合并前故意改坏一处关键判断,确认测试会失败,并解释重要函数的输入假设、失败路径和依赖版本。