基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
8.0
热点
AI SCORE
编程提效2026-11-18 01:03

AI 代码能运行,仍需审查隐含风险

dev.to · AI#AI编程#代码审查#代码质量
Editor brief · 编辑速览

文章提出使用 AI 生成代码前的十项检查,强调核查隐含假设、数据暴露和异常路径。以分账舍入导致金额不守恒为例,说明正常运行一次不足以证明代码可靠。

文章思维导图
Knowledge map
拖拽缩放
AI deep read

AI 深度解读

AI 生成的代码,最容易让人放松警惕的地方,是它看起来已经完成了:能编译,正常流程能跑,改动也整齐。原文给出的结论是,真正需要检查的,是结果是否正确、权限是否完整,以及出错后系统会怎么处理。

作者把这些风险整理成了十项检查,覆盖依赖、密钥、数据访问、性能和测试。对前端和全栈程序员来说,它的价值在于把「仔细审查 AI 代码」变成具体动作,同时提醒我们:调查比例、研究基准和真实项目事故,不能混着解释。

能跑通,为什么还不能算正确

原文用分账说明了一个容易漏掉的问题:100 元分给 3 人,每人四舍五入得到 33.33 元,加起来只有 99.99 元。直接原因是每份独立舍入,没有分配余数;此外,二进制浮点也不适合直接承担金额计算。

下面这段代码用整数分计算,并把余数分给前面的人:

def split_bill(total_cents, people):
    if people <= 0:
        raise ValueError("people must be greater than zero")

    base, extra = divmod(total_cents, people)
    return [base + (1 if i < extra else 0) for i in range(people)]

print(split_bill(10000, 3))  # [3334, 3333, 3333]

要看的是 divmod 和后面的分配逻辑,两者共同保证总额不丢失。作者建议自己选择三个输入:空值或零值、边界值、已知答案,再补充不变量(invariant),这里就是 sum(shares) == total。

测试也可能只提供「跑过了」的错觉。原文的折扣函数把百分比除数写成了 10,正确值应该是 100;调用 apply_discount(200, 10) 不会报错,却得到 0.0。只有断言结果等于 180,才能抓住错误。

覆盖率证明某行执行过,不能证明结果正确。

作者建议手动改一个常量或翻转比较符,再运行测试。如果仍然全绿,就要检查断言是否覆盖了这条规则。Python 项目可以用 mutmut 自动化这种变异测试。

性能同样需要有代表性的输入。原文用 list(range(20000)) 和 list(range(0, 40000, 2)) 做重复成员检查,列表查询平均为 O(n),集合查询平均为 O(1),但创建集合也有成本。应按真实数据量判断,Python 可用 python -m cProfile -s cumtime script.py 定位耗时。

依赖和密钥,为什么要先查来源

模型可能推荐不存在的包,而空着的包名可以被别人注册。

原文引用的 USENIX Security 2025 论文,用 16 个模型生成了 576,000 份 Python 和 JavaScript 代码样本。商业模型的平均幻觉包比例至少为 5.2%,开源模型为 21.7%,共出现 205,474 个不同的幻觉包名。

这类风险也有现实演示。研究者 Bar Lanyado 注册了模型反复推荐的 Python 包 huggingface-cli,放入无害内容。据 The Register 报道,三个月内获得超过 15,000 次真实下载。不过,研究者没有确认实际利用事件,不能把下载量直接算成受害数量。

npm 项目可以先核对包信息,再做审计:

npm view some-package time.created maintainers repository.url
npm audit
npm audit signatures

要区分最后两行:npm audit 检查已知安全公告,npm audit signatures 检查已下载包的注册表签名和来源证明。它们都不能证明维护者没有恶意。Python 的 pip-audit -r requirements.txt 也主要检查已知漏洞;陌生包需要查看官方文档、仓库、维护者和发布历史,必要时隔离检查。

密钥则不能照抄 quickstart。原文用 os.environ["PAYMENT_API_KEY"] 替代硬编码,缺少变量时会直接报错,避免悄悄继续。

GitGuardian 的 2026 报告称,2025 年公开 GitHub 提交新增了 28.65 million,即 2865 万个硬编码秘密;Claude Code 辅助提交的泄漏率为 3.2%,全部公开提交的基线为 1.5%。报告也提醒,这不能简单归因于工具失败,开发者仍决定接受和提交什么。

落地检查包括 gitleaks dir -v . 扫描工作目录、gitleaks git -v 扫描历史,以及 GitHub push protection。真实密钥一旦进入提交,应轮换;后续删掉那行,旧提交依然留着它。

登录、输入和异常,哪些地方最容易漏

登录只确认身份,授权才决定这个身份能访问哪些数据。OWASP Top 10:2025 中,Broken Access Control 仍列为 A01。

原文的 Flask 路由 /invoices/<int:invoice_id> 即使已有 g.user,也必须比较发票的 owner。只检查记录存在,用户就可能改 URL 中的 ID 读取他人数据。返回 404 而非 403 是一种设计选择,可以避免确认记录存在。

Supabase 场景还要检查行级安全策略(RLS)。公开 anon key 可以出现在客户端,数据隔离依赖数据库策略。原文示例先执行 alter table invoices enable row level security;,再通过 to authenticated 和 using ((select auth.uid()) = owner_id) 限制读取。这个策略只覆盖 SELECT,写入、更新和删除需要各自的规则。

相关案例 CVE-2025-48757 涉及部分 Lovable 生成项目的 RLS 不足,但该 CVE 标记为 disputed,Lovable 认为客户有责任保护应用数据。这里能直接拿走的检查是:以用户 A 登录,请求用户 B 的记录,确认访问被拒绝。

输入处理则要分别看数据库、页面和日志。SQL 使用参数化查询;浏览器插入纯文本时优先 textContent;模板使用自动转义;日志采用结构化记录,并处理回车、换行等控制字符。

Veracode 2025 报告在四种语言、80 项代码补全任务上测试了超过 100 个模型,原始基准中 XSS 安全通过率为 13.53%,日志注入为 12.03%。这是受控任务结果,不能当成所有真实提示词的失败率。Bandit 等静态分析工具也只能补充审查。

异常处理的坑则是「出错后装作成功」。配置读取失败却被 except Exception 转成 {},会让应用带着默认设置继续运行。应让 FileNotFoundError、JSONDecodeError 到合适的层级处理,并在入口验证类型、范围、长度和允许值。OWASP 在 2025 年新增的 A10,正是 Mishandling of Exceptional Conditions。

原文给出的粗查命令是 grep -rnE "except( Exception)?( as [A-Za-z_]+)?:" --include=*.py .,但匹配结果需要人工阅读,也不能覆盖所有异常写法。

版本对得上,代码才有维护的起点

模型学过某个库,不代表知道项目锁定了哪个版本。应把生成代码与 lockfile 对应版本的文档核对。

例如 datetime.utcnow() 从 Python 3.12 起弃用,替代写法 datetime.now(timezone.utc) 返回带时区的对象;如果继续与旧的无时区对象比较,可能触发 TypeError。替换 API 时,还要检查数据语义有没有改变。

作者建议使用 pytest -W error::DeprecationWarning 暴露弃用问题,Node 项目可运行 node --trace-deprecation app.js,并通过 npm outdated 查看依赖版本情况。

维护性也需要直接检查:这个函数假设输入是什么,依赖失败会怎样,哪一行删除后结果不变?回答不清时,应核对解释并简化代码。十行任务引入重试框架、三层抽象和新依赖,可能只是增加维护成本。

我的判断

我认同作者把注意力放在「可信证据」上。金额守恒、跨用户访问测试、能被错误改动击穿的断言,都比代码看起来整齐更有说服力。

但十项检查并非 AI 代码专属,也适用于人工代码。原文没有给出团队实施前后的缺陷率、审查耗时或对照实验,因此不能断言这套清单能带来多少收益。它是一套有依据的审查建议,尚不是效果已经量化的团队流程。

调查数字也要分开读。Stack Overflow 2025 调查中,66% 的受访者抱怨答案接近正确却差一点,45% 认为调试 AI 代码更费时间;2026 年问的是信任,48% 在容易验证时信任,只有 6.6% 对包括重要工作决策在内的许多任务都信任。两年问题不同,不能拼成信任升降趋势。

与逐行人工检查相比,依赖和密钥扫描适合自动化;授权、业务不变量和异常后的行为,则需要人先定义正确标准。让 AI 再解释一遍可以帮助理解,但解释本身仍要与代码核对。

能拿来做什么

  • 接受 AI 生成的计算或转换函数前,自己挑三个输入并写下预期结果;金额分摊等场景再增加总额守恒断言。
  • 在 Node 项目中,把新增依赖核验、npm audit 和密钥扫描放进现有检查流程,对陌生包补查来源。
  • 给返回用户数据的接口增加用户 A 访问用户 B 数据的测试;使用 Supabase 时,分别检查读、写、更新和删除策略。
  • 合并前故意改坏一处关键判断,确认测试会失败,并解释重要函数的输入假设、失败路径和依赖版本。
Original source

本文由 AI 通读原文后重新编写,观点部分为站内判断,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
四款模型的 Agent 注入测试均受隐藏文本影响
下一篇
用 Temporal Nexus 统一 Agent 工具审批

资讯速览

dev.to · AI · 2026-11-18 01:03

AI 评分 8.0 / 10

相关标签

#AI编程#代码审查#代码质量

继续阅读

  • Foundry 应用上线先理清身份与网络
  • 四款模型的 Agent 注入测试均受隐藏文本影响
  • 用 Temporal Nexus 统一 Agent 工具审批
  • 从 Go 智能体记忆库读懂数据结构设计
  • MCP 双鉴权:按客户端交互方式选型