模型输出直进页面和 SQL,引爆双重注入
ReviewBot 将评论中的恶意 HTML 带入后台页面,又把提取的商品名直接拼入 SQL,分别导致 XSS 和数据库信息泄露。案例强调模型输出仍是不可信输入,需使用参数化查询、安全渲染及 HttpOnly Cookie 等防护。
AI 深度解读
ReviewBot 给商店后台汇总商品评论,却把评论里的恶意 HTML 带进了管理员浏览器,又把提取出的商品名拼进 SQL,接连触发 XSS 和 SQL 注入。问题出在应用把模型输出当成了可信内容。
作者用一个本地实验演示攻击,再用相同输入验证修复。对正在做 AI 客服、评论摘要或数据库查询工具的开发者,这个案例值得看:模型只是转述了一段文字,应用却给了这段文字执行代码的机会。
一段评论,怎么变成了两条攻击链
第一条攻击链发生在页面渲染阶段。攻击者提交的「评论」包含带有 onerror 处理器的 HTML 图片标签。ReviewBot 在摘要里照实引用,后台再用 innerHTML 插入回复,浏览器便把文本当作 HTML 执行。
管理员的会话 Cookie 又没有设置 HttpOnly,脚本可以读取它,最终将其发送给攻击者。作者明确表示,这段 XSS 确实在浏览器里触发了。
第二条攻击链发生在数据库查询阶段。攻击者构造商品名,ReviewBot 提取后交给查询函数,应用直接把它拼进 SQL 字符串。商品名于是成了 SQL 语法的一部分,通过 UNION SELECT 导出所有用户的邮箱和密码哈希。
两条路径有同一个问题:
模型输出仍然是不可信输入,不能因为经过模型就获得执行权限。
作者将其归为 OWASP LLM05,即输出处理不当(Improper Output Handling)。在这个案例里,模型没有主动设计攻击,只是复述或提取了攻击者提供的内容。真正让攻击成立的是后面的 SQL 拼接和 HTML 渲染。
修复应该落在输出进入系统的位置
作者没有靠提示词要求模型「不要输出危险内容」,而是在数据库和浏览器的入口修复。
下面这段代码同时处理 SQL 参数、回复渲染和会话 Cookie:
def get_reviews(args, state):
# 修复 1:参数化查询。模型文本只是值,不会成为 SQL 的一部分。
sql = "SELECT author, text FROM reviews WHERE product = ?"
rows = db().execute(sql, (args["product"],)).fetchall()
return "\n".join(f"{a}: {t}" for a, t in rows)
app = make_app({
# ...
# 修复 2:将模型回复渲染为纯文本,由浏览器进行转义。
"render_html": False,
# 修复 3:会话 Cookie 设置 HttpOnly,即使脚本混入也无法读取它。
"cookie": ("admin_session", "LAB-FAKE-ADMIN-SESSION-8c1f", True),
})
最该看的是 db().execute(sql, (args["product"],)):SQL 结构提前确定,商品名单独绑定为值。即使包含注入语句,也只是一个查不到结果的商品名。
"render_html": False 则让恶意标签以普通文字显示。Cookie 配置最后的 True 在这个实验框架里表示启用 HttpOnly,具体含义不能直接套用到其他框架。
作者还建议使用 Secure Cookie 和严格的内容安全策略(Content Security Policy,CSP)。不过,展示的修复代码没有给出这两项配置,不能把它们当作已经验证过的实验步骤。
原文提供了复现命令,XSS 需要在浏览器中触发:
git clone https://github.com/usinha79/hack-it-then-fix-it
cd hack-it-then-fix-it/ep07-insecure-output-handling
pip install -r requirements.txt
python vulnerable/app.py # http://localhost:5000, then ./attack.sh (the XSS only fires in a browser)
python fixed/app.py # same messages, both attacks fail
要留意最后两行:修复前后使用相同攻击消息。作者报告,修复后评论变成无害文本,SQL 注入也只能作为商品名参与匹配。
我的判断
这个案例最有价值的地方,是把 AI 应用的问题落回了具体的信任边界。要求模型过滤危险内容可以作为辅助,但参数化查询和安全渲染应由应用代码保证,不能取决于模型这次是否听话。
实验也有明确范围:商店、评论、用户和管理员会话全部是假数据,数据库使用 SQLite,每次重置都会重建。它证明了两条攻击路径及对应修复,不代表完整生产系统已经通过安全验证。原文没有给出更多攻击变体或不同方案的对照数据。
另外,HttpOnly 能阻止脚本直接读取会话 Cookie,却不能消除 XSS。恶意脚本仍可能借管理员当前页面执行操作,因此不能只改 Cookie 就宣布修好。
纯文本渲染适合这类评论摘要。如果产品确实需要富文本,就还需要针对允许的 HTML 做安全处理;原文没有展开这部分实现。
能拿来做什么
- 检查前端展示 AI 回复的位置,尤其是
innerHTML。只需要文字的评论摘要、客服回复,直接采用纯文本渲染。 - 检查 Node 等后端工具函数里的数据库调用,把模型提取出的商品名、筛选条件作为参数传递,避免拼进 SQL 字符串。
- 把同一份恶意输入留作回归用例,分别验证浏览器实际渲染和数据库实际返回结果。复现仅限自己拥有或获得授权的系统。