基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
简历
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
8.0
热点
AI SCORE
技术实践2026-11-06 04:30

能付款和签名的智能体如何做威胁建模

dev.to · AI#Agent#提示注入#安全
Editor brief · 编辑速览

文章建议先明确攻击者可获得的收益,再分别分析输入、模型和宿主环境的攻击面。重点风险包括外部数据中的提示注入、智能体持有凭证导致的泄露,以及模型行为偏离授权意图。

文章思维导图
Knowledge map
拖拽缩放
AI brief

原文暂未完整获取,基于公开信息的快读

能付款、能签署发布包的 Agent,安全问题已经超出「回答是否靠谱」。dev.to 的这篇文章援引 Ledger CTO Charles Guillemet 的观点:选模型之前,先写清攻击者得手后能拿走什么,再检查输入、模型和宿主环境。防护强度应由可能损失决定。

目前能确认什么

节选区分了几条攻击路径。提示注入把指令藏进 Agent 读取的外部数据;越狱则诱导模型突破安全训练。两者入口不同,都不能只靠模型自己识别。

如果 Agent 持有 API keys 或钱包助记词,泄露凭证后,攻击者可能直接获得相应操作权限,绕过原有策略检查。即使凭证没有泄露,含糊的请求也可能被转成偏离授权意图的动作。

宿主环境是另一层风险:主机被攻陷,策略引擎可能被篡改。密钥放在硬件里,也不代表攻击者无法调用它签名。

密钥不被导出,不等于每次签名都获得了正确授权。

文章按损失价值讨论软件访问控制、硬件自动签名、带屏幕的人工核验,以及需要多人批准的多重签名。这是受访者的分层思路,并非统一标准。节选还明确,Ledger 尚未在设备层使用所述零知识证明方案。

我的判断

给 Agent 接支付或发布工具时,第一份安全设计应列出它能支配的资产,以及一次错误操作会造成什么损失。低价值操作可以考虑受限额度和访问控制;资金库或固件发布,则需要更强的独立核验。

对程序员而言,关键是把「模型提出动作」和「系统授权执行」分开,并检查最终收款方、金额或待签名内容是否与授权一致。仅过滤输入输出,无法完成这一步。

节选最后被截断,策略如何准确映射具体动作、核验界面展示什么、宿主失陷后如何约束签名,都还缺少完整说明。不能据此认定,加上硬件或可信执行环境就已解决整条链路的安全问题。

Original source

本文由 AI 基于公开信息编写,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
GPT-6 Cyber 发布,覆盖漏洞发现与修补
下一篇
Mistral Studio 扩展智能体托管与应用部署

资讯速览

dev.to · AI · 2026-11-06 04:30

AI 评分 8.0 / 10

相关标签

#Agent#提示注入#安全

继续阅读

  • OpenAI 如何改造 Git 应对编程 Agent 并发
  • GPT-6 Cyber 发布,覆盖漏洞发现与修补
  • Mistral Studio 扩展智能体托管与应用部署
  • AI 用休眠修测试,竞态问题仍在
  • 用人工改写比例淘汰低效 AI 文档草稿