基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
8.0
热点
AI SCORE
技术实践2026-11-20 00:10

LiteLLM 代理漏洞遭利用,需核查版本与密钥

dev.to · AI#LiteLLM#漏洞修复#安全
Editor brief · 编辑速览

文章称 LiteLLM 的 CVE-2026-40217 已被用于将普通虚拟密钥升级为管理员凭据,涉及自定义护栏测试接口的代码执行漏洞。内容提供版本核查、升级、日志排查与密钥轮换思路,并提醒默认容器以 root 运行会扩大影响。

文章思维导图
Knowledge map
拖拽缩放
AI deep read

AI 深度解读

LiteLLM 网关集中保管 OpenAI、Anthropic、Gemini 等服务的密钥,一旦被攻破,损失可能越过网关本身。原文提醒:CVE-2026-40217 虽然被描述为需要管理员凭据,但结合另外两个权限漏洞,普通 Virtual Keys 也可能成为入口。

处置也不是简单升到某个版本。作者把漏洞修复、10 月的软件供应链投毒和入侵后的密钥轮换放在一起讨论。对维护内部 AI 平台的人,这篇最有用的是排查顺序;文中的安全事件与版本结论,以下均按原文转述。

普通调用密钥,为什么能一路走到执行命令

入口是自定义防护规则测试接口 POST /guardrails/test_custom_code。LiteLLM 允许用 Python 编写 guardrails,测试时会执行提交的代码。

问题在于,原来的沙箱依赖正则表达式黑名单:检查源码里有没有危险名字,再决定是否放行。X41 D-Sec 展示的方法是运行时拼出被禁名称,避开文本检查,再改写生成器字节码,触及真正的导入机制并执行系统命令。默认 Docker 镜像以 root 运行,因此攻击者取得的是容器内 root 权限,不能直接等同于宿主机 root。

修复用 RestrictedPython 替换了正则过滤。按照原文,修复于 4 月 15 日合入,1.81.8 至 1.83.9 受该 CVE 影响。

更关键的是权限链:

  • CVE-2026-47101 允许非管理员通过 /key/generate、/key/update、/key/regenerate 写入未经校验的 allowed_routes,生成能访问管理路由的密钥。
  • CVE-2026-47102 允许通过 /user/update 把自己的 user_role 改成 proxy_admin。
  • CVE-2026-40217 接上最后一步,从管理员权限进入代码执行。

Obsidian Security 在 6 月公开了从默认 internal_user 出发的链条,并确认 4 月 25 日发布的 v1.83.14-stable 关闭了整条链。

不能仅凭接口要求管理员凭据,就判断普通调用密钥泄露无关紧要。

原文援引 Google GTIG 11 月 17 日的报告,称其观察到攻击者利用该漏洞,把受限 Virtual Keys 提升为完整管理凭据。CISA 随后于 2026 年 11 月 18 日将其加入 KEV,要求联邦机构在 12 月 2 日前处理。这个期限针对联邦机构,不能理解为其他团队可以等到那天。

升级前,先确认容器里究竟装了什么

安全公告对 1.83.10、1.83.11 的修复版本存在分歧,作者建议以 v1.83.14-stable 为整条攻击链的最低修复线。低于 1.83.14 的部署,需要检查普通密钥到管理权限的路径。

但不能据此随手拉取 latest。

原文称,10 月 21 日的供应链事件污染了 litellm==1.107.0,以及 Docker Hub、GHCR 上的 v1.107.0、latest、main-latest、main-stable 标签,载荷是凭据窃取程序。PyPI 暴露窗口约为 1 小时 45 分钟,Docker Hub 约为 2.5 小时。

项目当时建议固定到 litellm==1.106.2,或其他明确发布于事件之前的版本。10 月 24 日发布的 v1.103.8、v1.104.6、v1.105.4、v1.106.3,则是首批使用新 cosign 密钥签名的版本。漏洞修复线与制品可信性,需要分别确认。

下面这组命令用于检查 Docker 部署,顺序本身就是重点:

docker ps --format '{{.Names}}\t{{.Image}}' | grep -i litellm
docker exec <litellm-container> sh -c "find / -maxdepth 7 -type d -name 'litellm-*.dist-info' 2>/dev/null"
docker exec <litellm-container> pip show litellm | grep -i '^version'

注意第二行:应先读取 dist-info 目录名,再决定是否执行第三行。原文称,受污染环境启动 Python 时,可能再次执行 cook.pth 和 sitecustomize.py,而 pip 也依赖 Python。若发现 litellm-1.107.0.dist-info,应停止常规检查,转入入侵排查。

普通 pip 部署的查询命令是 pip show litellm | grep -i '^version',但同样要先排除上述污染风险。镜像标签看起来正常,也不能替代容器内核验。

Helm 部署还要区分 chart 版本与应用版本:

helm list -A | grep -i litellm
helm get values <release> -n <namespace> | grep -iA3 image
kubectl get pods -n <namespace> -o jsonpath='{range .items[*]}{.metadata.name}{"\t"}{.spec.containers[*].image}{"\n"}{end}' | grep -i litellm
kubectl exec -n <namespace> <litellm-pod> -- pip show litellm | grep -i '^version'

最后一行也受相同限制:应先用前面的 find 方法排除污染,再启动 pip。作者给出的安装示例是 pip install "litellm[proxy]==1.106.2",Docker、Helm 则应固定明确版本,最好固定 digest。

暂时无法升级时,原文给出的临时措施是在 Nginx 使用精确匹配 location = /guardrails/test_custom_code 并返回 403。它能封堵该入口,但不能清除既有入侵,也挡不住绕过反向代理直接访问后端的流量。

没看到异常请求,为什么还要查密钥和账单

普通聊天和补全流量不会访问 guardrail 测试接口。可以先查 grep 'POST /guardrails/test_custom_code' /var/log/nginx/access.log*,以及 docker logs <litellm-container> 2>&1 | grep 'test_custom_code'。无法归属到团队成员的调用,应继续追查。

还要沿攻击链向前检查:密钥接口是否设置了异常 allowed_routes,尤其是通配符;/user/update、/user/bulk_update 是否修改过角色;是否出现陌生 proxy_admin。

持久化痕迹也可能藏在配置里。检查未经授权的 POST /guardrails、PUT /guardrails/{id},以及 config.yaml 中的 litellm_settings.callbacks。原文称 callbacks 不显示在管理 UI 中,恶意回调可以读取提示词和响应,或修改工具调用。

供应链事件还要检查 site-packages 下的 cook.pth、cook.py、sitecustomize.py,以及 /tmp/remote_code_loader.lock。原文明确提醒:发现这些指标可以确认暴露,没有发现却不能证明干净。

升级修复的是后续入口,已经被复制出去的凭据不会因此失效。

网关持有供应商密钥、master key、DATABASE_URL 密码及其他环境变量。攻击者读取后,可能直接调用供应商服务;如果曾直连 4000 端口,Nginx 日志甚至没有对应记录。

作者建议依次轮换 OpenAI、Anthropic、Gemini、Azure、Bedrock 凭据,数据库密码,全部 Virtual Keys,再处理宿主机绑定的云 IAM 角色,并检查新增服务账号。原文没有展开 master key 的具体轮换流程。

账单和云资源同样是证据。GTIG 引述的 Mandiant 2026 年事件中,单日欺诈费用曾超过 10 万美元,最严重的累计资源滥用达到 100 万美元。这些数字来自相关入侵事件,不能当作每个受影响 LiteLLM 实例的损失预估。

我的判断

这篇最有价值的判断,是把网关视作集中保管凭据的服务。对前端、Node 应用而言,Virtual Key 可能只是一个调用配置;对网关而言,它却可能连接权限管理、代码执行和多家供应商账户。只检查推理接口能否正常工作,覆盖不了这条风险路径。

不过,几类证据需要分开看。Obsidian 的攻击链、Google 的在野观察,以及供应链事件分别支持不同结论。原文没有给出 Google 所见攻击的完整请求序列,不能确认每次利用都严格经过上述两个提权 CVE;也没有提供不同部署配置的成功率对照。

全面轮换密钥是基于潜在暴露面的处置主张,原文没有比较它与「仅轮换确认泄露密钥」的成本收益。若部署满足漏洞条件,又无法排除历史访问,我倾向支持全面轮换;但版本命中、可被利用和已经失陷,仍是三个不同判断。

固定版本和校验签名能改善制品追溯,管理路由收进内网能减少暴露面,两者都不能代替应用权限修复。把测试接口挡住,也不代表整条管理权限链已经关闭。

能拿来做什么

  • 维护 Node 或全栈 AI 服务时,先盘点实际连接的 LiteLLM 实例、容器内版本和镜像来源;遇到可疑制品,先做文件检查,再运行 Python 工具。
  • 把推理接口与管理接口分开暴露。应用需要 /chat/completions,并不需要让公网访问 /user/update,同时检查后端 4000 端口是否能被直连。
  • 排查时同时看 HTTP 日志、角色变更、callbacks、供应商账单和云服务账号,别把管理 UI 或单份访问日志当成完整证据。
  • 对无法排除历史入侵的实例,按供应商凭据、数据库密码、Virtual Keys、云 IAM 的顺序安排轮换,并重新核验所有 proxy_admin。
Original source

本文由 AI 通读原文后重新编写,观点部分为站内判断,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
VibeVoice 开源语音模型覆盖长转写与流式合成
下一篇
八款编程 Agent 同模型实测成本与解题率

资讯速览

dev.to · AI · 2026-11-20 00:10

AI 评分 8.0 / 10

相关标签

#LiteLLM#漏洞修复#安全

继续阅读

  • PromptMigrate 为提示词引入迁移与回滚
  • VibeVoice 开源语音模型覆盖长转写与流式合成
  • 八款编程 Agent 同模型实测成本与解题率
  • 关闭推理为何失效:兼容接口的静默陷阱
  • 批量分类能否替代大模型逐条生成