基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
8.0
热点
AI SCORE
行业动态2026-11-22 10:18

编程智能体提交凭证,导致 Together AI 提示词泄露

dev.to · AI#编程智能体#凭证泄露#供应链安全
Editor brief · 编辑速览

据文中转述的披露,编程智能体将可访问私有 Hugging Face 仓库的凭证提交到了公共 GitHub 仓库。自动扫描触发了提交回滚,但未经授权的一方已在暴露期间取得凭证并下载提示词样本。

文章思维导图
Knowledge map
拖拽缩放
AI deep read

AI 深度解读

AI 编程代理把一枚凭证提交到公开仓库,随后有人用它下载了私有仓库里的客户提示词。原文转述的 Together AI 安全披露显示,自动扫描发现并撤销了提交,但下载已经发生。攻击者还继续搜寻提示词中的其他凭证,并测试它们是否有效。

这起事件值得程序员关注,不只是因为代码由 AI 提交,更因为它串起了三种风险:开发凭证权限过大、提交检查发生得太晚,以及推理服务保留了客户可能以为早已消失的数据。

撤销提交,为什么没能阻止泄露

据原文转述,Together AI 于 2026 年 11 月 21 日披露事件。公司为日常软件测试收集了经授权的提示词样本,存放在私有 Hugging Face 仓库中。样本来自 serverless 推理服务的 MiniMax M3、GLM-5.2 和 Kimi K2.6,请求主要集中在 2026 年 6 月 24 日、7 月 4 日、7 月 8 日和 7 月 14 日。

泄露入口是公开 GitHub 仓库 xorl。一个 AI coding agent 在开发过程中提交了可访问上述私有仓库的凭证。Together AI 表示,自动扫描发现了凭证并撤销提交,但未授权访问者已经拿到凭证,下载了存储的样本。

撤销包含凭证的提交,不等于让已经暴露的凭证失效。

原文没有给出暴露窗口持续多久,也没说清凭证何时被吊销或轮换。因此,我们只能确认扫描未能赶在下载前阻断访问,不能据此计算响应速度。

后续行为更值得警惕:访问者从提示词中搜索其他服务的凭证,并测试其有效性。其中 5 枚是 Dragos 安全实验植入的金丝雀凭证(canary credentials)。它们相当于会报警的诱饵,一旦有人尝试使用,就能暴露异常访问。

这证明了访问者确实在寻找可继续利用的入口,却不能证明其找到了真实、有效的客户密钥。原文明确说,这部分仍在调查。

Together AI 还表示,没有理由相信数据被进一步泄露,并了解到数据现已删除;公司正与外部取证机构及执法部门合作,尚未发现此次事件之外的提示词泄露证据。这些都是调查中的公司表述,不能写成已经独立核实的最终结论。敏感个人信息及其他客户数据是否受影响,也还在审查,受影响客户将被直接联系。

四项补救,分别堵住哪一段风险

Together AI 列出了四项调整,它们解决的是不同环节的问题。

第一,使用限定权限或短期凭证,并在支持时采用无密钥访问。凭证即使再次暴露,能访问的资源和可用时间也应受到限制。不过,原文没有披露涉事凭证的具体权限,无法判断此次究竟多开放了哪些能力。

第二,对所有拉取请求(PR)检查凭证。它把检查放到代码合入前。对于会自主修改、暂存和提交文件的 agent,这比公开提交后再报警更接近有效阻断。当然,扫描能否覆盖各种密钥格式、是否会被绕过,原文没有给出验证结果。

第三,为新账户默认开启零数据保留(Zero Data Retention,ZDR)。此前它需要客户主动启用。作者认为这是影响最广的一项调整:如果测试样本没有被保留,这条泄露链就缺少可下载的数据。

这里要看清适用范围。新账户默认开启 ZDR,不代表现有账户已经自动切换。 原文仍转述了 Together AI 让客户进入账户设置启用 ZDR 的建议,也没有给出 ZDR 对日志、备份等环节的完整覆盖说明。

第四,更新 AI coding agent 的开发使用流程。这项措施直接指向事件入口,但披露没有展开流程细节。是否限制 agent 读取凭证、是否要求人工批准提交,以及检查能否强制执行,目前都没说清。

作者最有价值的提醒是:agent 生成的提交需要按不可信输入处理。代码写得通顺、解释得自信,与其中是否夹带秘密没有关系。

我的判断

我认同作者把重点放在提交前检查和数据保留设置上。前者减少秘密进入公开仓库的机会,后者减少事故发生后可被拿走的数据。它们分别控制入口和后果,不能互相替代。

但把问题完全归结为「AI 做了谨慎的人不会做的事」,证据还不够。人也会误提交密钥;这起事件真正暴露的是,一枚可访问客户样本的凭证进入了 agent 能接触、能提交的工作范围,而检查没有在公开前拦住它。原文没有交代 agent 如何获得凭证,也没有提供人与 agent 的泄密率对照。

因此,agent 应该接受同等审查是合理要求;是否需要更严格的门禁,则应结合其读取范围、自主操作权限和团队流程决定。原文对此属于经验判断,不是对照实验结论。

作者还提醒读者,托管推理请求可能被复制、采样和存储。这个提醒成立,但不能把「测试留存」直接写成「用于训练」。本次披露涉及的是经授权的软件测试样本,没有证据证明这些提示词进入了模型训练。

ZDR 也需要看具体约定。只读到一个设置名称,还不足以确认所有相关数据如何处理。对于敏感请求,保留期限、适用范围和可验证的承诺,比开关名称更有判断价值。

能拿来做什么

  • 检查项目正在使用的推理服务账户,确认提示词是否留存、ZDR 是否开启,以及现有账户是否需要手动调整;不要把新账户默认值当成自己账户的状态。
  • 给 AI 编程流程加上提交前的凭证扫描,并在 PR 中执行检查。审查 agent 的变更时,除了业务代码,也要检查配置文件、测试样本和意外新增的文件。
  • 缩小 agent 可读取的凭证范围,按任务提供必要权限;服务支持时采用短期凭证或无密钥访问,减少一枚凭证串起多个资源的机会。
  • 整理发送给 AI 的报错、请求样本和调试上下文时,先移除真实密钥。这次事件说明,提示词本身也可能成为攻击者继续寻找访问入口的材料。
Original source

本文由 AI 通读原文后重新编写,观点部分为站内判断,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
8GB 显存跑本地模型怎么分配预算
下一篇
79 个 Claude Code 子智能体如何共用工作目录

资讯速览

dev.to · AI · 2026-11-22 10:18

AI 评分 8.0 / 10

相关标签

#编程智能体#凭证泄露#供应链安全

继续阅读

  • 用 Spring AI 让模型按输入动态分派任务
  • 8GB 显存跑本地模型怎么分配预算
  • 79 个 Claude Code 子智能体如何共用工作目录
  • Inkling 2 Mini 让编程模型跑上笔记本
  • AI 网关性能榜为何各说各话