如何防止 Agent 的已授权工具调用请求被重放(replay)执行两次?
如何防止 Agent 的已授权工具调用请求被重放(replay)执行两次? 本文先给出可直接复述的结论,再用最小代码说明工具调用防重放 nonce 幂等 Agent的工作方式、判断依据、项目边界和常见误区。
权限与安全专题面试题第 1 页,显示第 1–43 题,共找到 43 道完整解析,可继续按分类、标签与关键词缩小范围。
按稳定语义路径排序
如何防止 Agent 的已授权工具调用请求被重放(replay)执行两次? 本文先给出可直接复述的结论,再用最小代码说明工具调用防重放 nonce 幂等 Agent的工作方式、判断依据、项目边界和常见误区。
Agent 应使用最终用户的权限令牌还是独立的 Agent 身份访问下游系统? 本文先给出可直接复述的结论,再用最小代码说明Agent 用户令牌委托 OAuth on-behalf-of的工作方式、判断依据、项目边界和常见误区。
Agent 长期记忆(long-term memory)持久化了用户输入,会带来哪些跨会话风险? 本文先给出可直接复述的结论,再用最小代码说明Agent 长期记忆跨会话注入风险的工作方式、判断依据、项目边界和常见误区。
如何设计工具调用的白名单路由,使模型只能选择「允许的工具+合法参数」? 本文先给出可直接复述的结论,再用最小代码说明Agent 工具白名单路由设计的工作方式、判断依据、项目边界和常见误区。
人工确认弹窗过多导致审批疲劳时,如何在安全与可用性间设计分层授权? 本文先给出可直接复述的结论,再用最小代码说明审批疲劳 分层授权设计 Agent的工作方式、判断依据、项目边界和常见误区。
如何保证 Agent 审计日志本身不被篡改或选择性删除? 本文先给出可直接复述的结论,再用最小代码说明防篡改审计日志 append-only Agent的工作方式、判断依据、项目边界和常见误区。
设计 Agent 的自主模式与监督模式切换时,权限提升需要满足什么条件? 本文先给出可直接复述的结论,再用最小代码说明Agent 自主与监督模式权限提升条件的工作方式、判断依据、项目边界和常见误区。
为 Agent 的工具调用签发短期能力令牌(capability token)时,令牌声明应包含哪些约束? 本文先给出可直接复述的结论,再用最小代码说明能力令牌声明约束 Agent 工具调用的工作方式、判断依据、项目边界和常见误区。
向用户展示待确认操作摘要时,如何防止注入内容伪装成确认信息误导用户? 本文先给出可直接复述的结论,再用最小代码说明确认摘要防注入误导用户 Agent的工作方式、判断依据、项目边界和常见误区。
AI Agent 场景中的「混淆代理人」(confused deputy)问题如何发生? 本文先给出可直接复述的结论,再用最小代码说明混淆代理人问题 LLM 工具调用的工作方式、判断依据、项目边界和常见误区。
共享模型实例时,如何防止一个用户的上下文内容泄露给另一用户? 本文先给出可直接复述的结论,再用最小代码说明LLM 上下文跨用户泄露防护的工作方式、判断依据、项目边界和常见误区。
多 Agent 协作时,Agent 之间的消息传递为什么需要独立的身份与权限边界? 本文先给出可直接复述的结论,再用最小代码说明多 Agent 消息传递身份权限边界的工作方式、判断依据、项目边界和常见误区。
为 AI Agent 设计纵深防御架构时,各层控制应如何分工而不是重复? 本文先给出可直接复述的结论,再用最小代码说明AI Agent 纵深防御架构分层控制的工作方式、判断依据、项目边界和常见误区。
运行时动态注册第三方工具(如 MCP server)会带来哪些授权风险? 本文先给出可直接复述的结论,再用最小代码说明MCP server 动态注册授权风险的工作方式、判断依据、项目边界和常见误区。
能读邮件和日历的个人助理 Agent,为什么被视为高风险组合权限? 本文先给出可直接复述的结论,再用最小代码说明邮件日历 Agent 高风险权限组合的工作方式、判断依据、项目边界和常见误区。
哪些 Agent 操作必须经过人工确认(human-in-the-loop),判定标准是什么? 本文先给出可直接复述的结论,再用最小代码说明Agent 人工确认操作判定标准的工作方式、判断依据、项目边界和常见误区。
用专门的分类器或辅助模型检测提示注入,应如何评估其有效性? 本文先给出可直接复述的结论,再用最小代码说明提示注入检测分类器评估方法的工作方式、判断依据、项目边界和常见误区。
越狱(jailbreak)攻击与提示注入攻击的目标有何不同? 本文先给出可直接复述的结论,再用最小代码说明越狱与提示注入攻击目标区别的工作方式、判断依据、项目边界和常见误区。
如何为运行中的 Agent 实现紧急停止(kill switch)与令牌即时吊销? 本文先给出可直接复述的结论,再用最小代码说明Agent 紧急停止与令牌即时吊销的工作方式、判断依据、项目边界和常见误区。
多租户 Agent 平台中,不同用户的会话记忆与检索索引应如何隔离? 本文先给出可直接复述的结论,再用最小代码说明多租户 Agent 记忆与 RAG 索引隔离的工作方式、判断依据、项目边界和常见误区。
如何防止 Agent 在回复中泄露系统提示词、内部工具名或其他用户数据? 本文先给出可直接复述的结论,再用最小代码说明防止 LLM 输出泄露系统提示词的工作方式、判断依据、项目边界和常见误区。
为什么对模型生成的工具调用参数仍需做服务端校验? 本文先给出可直接复述的结论,再用最小代码说明工具调用参数服务端校验 Agent的工作方式、判断依据、项目边界和常见误区。
在把用户数据送入模型前做 PII 脱敏,应如何设计可逆与不可逆两种模式? 本文先给出可直接复述的结论,再用最小代码说明送入模型前 PII 脱敏可逆设计的工作方式、判断依据、项目边界和常见误区。
AI Agent 面临的直接提示注入与间接提示注入有什么区别? 本文先给出可直接复述的结论,再用最小代码说明直接与间接提示注入区别 LLM Agent的工作方式、判断依据、项目边界和常见误区。
为什么提示注入无法像 SQL 注入那样通过参数化查询彻底根除? 本文先给出可直接复述的结论,再用最小代码说明提示注入为何无法彻底防御的工作方式、判断依据、项目边界和常见误区。
本文解释 RAG 检索污染的机制:恶意文档通过检索进入模型上下文,形成间接提示注入。分析攻击链路、具体场景、失败边界,给出可操作判断。
检测到沙箱逃逸尝试后,Agent 运行环境应执行哪些应急处置步骤? 本文先给出可直接复述的结论,再用最小代码说明沙箱逃逸应急处置 Agent的工作方式、判断依据、项目边界和常见误区。
沙箱内文件系统应如何挂载(只读根、临时卷)以限制 Agent 的持久化破坏? 本文先给出可直接复述的结论,再用最小代码说明沙箱只读文件系统 tmpfs 挂载的工作方式、判断依据、项目边界和常见误区。
容器、gVisor、微虚拟机(如 Firecracker)为 Agent 沙箱提供的隔离强度有何差异? 本文先给出可直接复述的结论,再用最小代码说明gVisor Firecracker 容器沙箱隔离强度对比的工作方式、判断依据、项目边界和常见误区。
Agent 沙箱的网络出口应如何默认策略化以防止数据外泄? 本文先给出可直接复述的结论,再用最小代码说明Agent 沙箱网络出口默认策略防外泄的工作方式、判断依据、项目边界和常见误区。
AI Agent 执行生成代码时为什么需要沙箱,仅靠代码审查提示词为何不够? 本文先给出可直接复述的结论,再用最小代码说明Agent 代码执行为何需要沙箱的工作方式、判断依据、项目边界和常见误区。
为什么 Agent 沙箱必须设置 CPU、内存、执行时长等资源上限? 本文先给出可直接复述的结论,再用最小代码说明Agent 沙箱资源上限 cgroups的工作方式、判断依据、项目边界和常见误区。
如何用 seccomp 与能力(capabilities)收敛 Agent 沙箱的系统调用面? 本文先给出可直接复述的结论,再用最小代码说明seccomp capabilities 收敛沙箱系统调用的工作方式、判断依据、项目边界和常见误区。
Agent 需要调用外部 API 时,如何用凭据代理(secrets broker)模式避免模型接触密钥? 本文先给出可直接复述的结论,再用最小代码说明secrets broker 凭据代理模式 Agent的工作方式、判断依据、项目边界和常见误区。
为什么不应把 API 密钥、数据库密码直接写入 Agent 的提示词或上下文? 本文先给出可直接复述的结论,再用最小代码说明密钥不应写入提示词的原因的工作方式、判断依据、项目边界和常见误区。
用分隔符、标记化或 spotlighting 技术区分指令与数据的效果与局限是什么? 本文先给出可直接复述的结论,再用最小代码说明spotlighting 分隔符防提示注入效果与局限的工作方式、判断依据、项目边界和常见误区。
仅靠系统提示词中的安全指令能否可靠阻止注入攻击? 本文先给出可直接复述的结论,再用最小代码说明系统提示词安全指令可靠性的工作方式、判断依据、项目边界和常见误区。
攻击者能否通过恶意工具描述(tool description)劫持 AI Agent 的行为? 本文先给出可直接复述的结论,再用最小代码说明工具描述注入攻击 MCP Agent的工作方式、判断依据、项目边界和常见误区。
AI Agent 调用工具时应如何贯彻最小权限原则? 本文先给出可直接复述的结论,再用最小代码说明Agent 工具调用最小权限原则的工作方式、判断依据、项目边界和常见误区。
工具返回内容重新进入模型上下文时,信任边界应划在哪里? 本文先给出可直接复述的结论,再用最小代码说明工具返回内容信任边界 Agent的工作方式、判断依据、项目边界和常见误区。
设计 Agent 工具集时,为什么应避免提供「执行任意命令」式的通用工具? 本文先给出可直接复述的结论,再用最小代码说明Agent 通用 shell 工具风险 工具集设计的工作方式、判断依据、项目边界和常见误区。
企业使用第三方模型 API 时,应如何确认用户数据不会被用于模型训练? 本文先给出可直接复述的结论,再用最小代码说明第三方模型 API 数据不用于训练确认的工作方式、判断依据、项目边界和常见误区。
WebAssembly 沙箱为什么被用于 Agent 插件/工具隔离,其能力边界在哪里? 本文先给出可直接复述的结论,再用最小代码说明WebAssembly 沙箱能力边界 Agent 插件隔离的工作方式、判断依据、项目边界和常见误区。