能读邮件和日历的个人助理 Agent,为什么被视为高风险组合权限?
能读邮件和日历的个人助理 Agent,为什么被视为高风险组合权限? 本文先给出可直接复述的结论,再用最小代码说明邮件日历 Agent 高风险权限组合的工作方式、判断依据、项目边界和常见误区。
AI Agent面试题第 9 页,显示第 401–450 题,共找到 511 道完整解析,可继续按分类、标签与关键词缩小范围。
按稳定语义路径排序
能读邮件和日历的个人助理 Agent,为什么被视为高风险组合权限? 本文先给出可直接复述的结论,再用最小代码说明邮件日历 Agent 高风险权限组合的工作方式、判断依据、项目边界和常见误区。
哪些 Agent 操作必须经过人工确认(human-in-the-loop),判定标准是什么? 本文先给出可直接复述的结论,再用最小代码说明Agent 人工确认操作判定标准的工作方式、判断依据、项目边界和常见误区。
用专门的分类器或辅助模型检测提示注入,应如何评估其有效性? 本文先给出可直接复述的结论,再用最小代码说明提示注入检测分类器评估方法的工作方式、判断依据、项目边界和常见误区。
越狱(jailbreak)攻击与提示注入攻击的目标有何不同? 本文先给出可直接复述的结论,再用最小代码说明越狱与提示注入攻击目标区别的工作方式、判断依据、项目边界和常见误区。
如何为运行中的 Agent 实现紧急停止(kill switch)与令牌即时吊销? 本文先给出可直接复述的结论,再用最小代码说明Agent 紧急停止与令牌即时吊销的工作方式、判断依据、项目边界和常见误区。
多租户 Agent 平台中,不同用户的会话记忆与检索索引应如何隔离? 本文先给出可直接复述的结论,再用最小代码说明多租户 Agent 记忆与 RAG 索引隔离的工作方式、判断依据、项目边界和常见误区。
如何防止 Agent 在回复中泄露系统提示词、内部工具名或其他用户数据? 本文先给出可直接复述的结论,再用最小代码说明防止 LLM 输出泄露系统提示词的工作方式、判断依据、项目边界和常见误区。
为什么对模型生成的工具调用参数仍需做服务端校验? 本文先给出可直接复述的结论,再用最小代码说明工具调用参数服务端校验 Agent的工作方式、判断依据、项目边界和常见误区。
在把用户数据送入模型前做 PII 脱敏,应如何设计可逆与不可逆两种模式? 本文先给出可直接复述的结论,再用最小代码说明送入模型前 PII 脱敏可逆设计的工作方式、判断依据、项目边界和常见误区。
AI Agent 面临的直接提示注入与间接提示注入有什么区别? 本文先给出可直接复述的结论,再用最小代码说明直接与间接提示注入区别 LLM Agent的工作方式、判断依据、项目边界和常见误区。
为什么提示注入无法像 SQL 注入那样通过参数化查询彻底根除? 本文先给出可直接复述的结论,再用最小代码说明提示注入为何无法彻底防御的工作方式、判断依据、项目边界和常见误区。
本文解释 RAG 检索污染的机制:恶意文档通过检索进入模型上下文,形成间接提示注入。分析攻击链路、具体场景、失败边界,给出可操作判断。
检测到沙箱逃逸尝试后,Agent 运行环境应执行哪些应急处置步骤? 本文先给出可直接复述的结论,再用最小代码说明沙箱逃逸应急处置 Agent的工作方式、判断依据、项目边界和常见误区。
沙箱内文件系统应如何挂载(只读根、临时卷)以限制 Agent 的持久化破坏? 本文先给出可直接复述的结论,再用最小代码说明沙箱只读文件系统 tmpfs 挂载的工作方式、判断依据、项目边界和常见误区。
容器、gVisor、微虚拟机(如 Firecracker)为 Agent 沙箱提供的隔离强度有何差异? 本文先给出可直接复述的结论,再用最小代码说明gVisor Firecracker 容器沙箱隔离强度对比的工作方式、判断依据、项目边界和常见误区。
Agent 沙箱的网络出口应如何默认策略化以防止数据外泄? 本文先给出可直接复述的结论,再用最小代码说明Agent 沙箱网络出口默认策略防外泄的工作方式、判断依据、项目边界和常见误区。
AI Agent 执行生成代码时为什么需要沙箱,仅靠代码审查提示词为何不够? 本文先给出可直接复述的结论,再用最小代码说明Agent 代码执行为何需要沙箱的工作方式、判断依据、项目边界和常见误区。
为什么 Agent 沙箱必须设置 CPU、内存、执行时长等资源上限? 本文先给出可直接复述的结论,再用最小代码说明Agent 沙箱资源上限 cgroups的工作方式、判断依据、项目边界和常见误区。
如何用 seccomp 与能力(capabilities)收敛 Agent 沙箱的系统调用面? 本文先给出可直接复述的结论,再用最小代码说明seccomp capabilities 收敛沙箱系统调用的工作方式、判断依据、项目边界和常见误区。
Agent 需要调用外部 API 时,如何用凭据代理(secrets broker)模式避免模型接触密钥? 本文先给出可直接复述的结论,再用最小代码说明secrets broker 凭据代理模式 Agent的工作方式、判断依据、项目边界和常见误区。
为什么不应把 API 密钥、数据库密码直接写入 Agent 的提示词或上下文? 本文先给出可直接复述的结论,再用最小代码说明密钥不应写入提示词的原因的工作方式、判断依据、项目边界和常见误区。
用分隔符、标记化或 spotlighting 技术区分指令与数据的效果与局限是什么? 本文先给出可直接复述的结论,再用最小代码说明spotlighting 分隔符防提示注入效果与局限的工作方式、判断依据、项目边界和常见误区。
仅靠系统提示词中的安全指令能否可靠阻止注入攻击? 本文先给出可直接复述的结论,再用最小代码说明系统提示词安全指令可靠性的工作方式、判断依据、项目边界和常见误区。
攻击者能否通过恶意工具描述(tool description)劫持 AI Agent 的行为? 本文先给出可直接复述的结论,再用最小代码说明工具描述注入攻击 MCP Agent的工作方式、判断依据、项目边界和常见误区。
AI Agent 调用工具时应如何贯彻最小权限原则? 本文先给出可直接复述的结论,再用最小代码说明Agent 工具调用最小权限原则的工作方式、判断依据、项目边界和常见误区。
工具返回内容重新进入模型上下文时,信任边界应划在哪里? 本文先给出可直接复述的结论,再用最小代码说明工具返回内容信任边界 Agent的工作方式、判断依据、项目边界和常见误区。
设计 Agent 工具集时,为什么应避免提供「执行任意命令」式的通用工具? 本文先给出可直接复述的结论,再用最小代码说明Agent 通用 shell 工具风险 工具集设计的工作方式、判断依据、项目边界和常见误区。
企业使用第三方模型 API 时,应如何确认用户数据不会被用于模型训练? 本文先给出可直接复述的结论,再用最小代码说明第三方模型 API 数据不用于训练确认的工作方式、判断依据、项目边界和常见误区。
WebAssembly 沙箱为什么被用于 Agent 插件/工具隔离,其能力边界在哪里? 本文先给出可直接复述的结论,再用最小代码说明WebAssembly 沙箱能力边界 Agent 插件隔离的工作方式、判断依据、项目边界和常见误区。
某工具持续故障时,Agent 为什么需要熔断而不是无限重试? 本文先给出可直接复述的结论,再用最小代码说明工具熔断 circuit breaker Agent的工作方式、判断依据、项目边界和常见误区。
Agent 工具调用的错误应如何分类,分类结果分别驱动什么处置动作? 本文先给出可直接复述的结论,再用最小代码说明工具调用 错误分类 重试策略的工作方式、判断依据、项目边界和常见误区。
相同幂等键但参数不同的两次工具调用到达时,服务端应返回什么? 本文先给出可直接复述的结论,再用最小代码说明幂等键 参数冲突 处理的工作方式、判断依据、项目边界和常见误区。
幂等去重记录的保留窗口应该按什么依据设定? 本文先给出可直接复述的结论,再用最小代码说明幂等 去重窗口 保留时间的工作方式、判断依据、项目边界和常见误区。
哪些工具可以用业务自然键(如订单号)实现幂等,哪些必须引入显式去重存储? 本文先给出可直接复述的结论,再用最小代码说明工具幂等 自然键 去重存储的工作方式、判断依据、项目边界和常见误区。
纯读类工具是否也需要幂等设计? 本文先给出可直接复述的结论,再用最小代码说明只读工具 幂等 副作用的工作方式、判断依据、项目边界和常见误区。
为什么 Agent 的重试机制要求工具具备幂等性? 本文先给出可直接复述的结论,再用最小代码说明工具调用 幂等性 重试的工作方式、判断依据、项目边界和常见误区。
在 LangGraph(Python)中,ToolNode 默认如何处理工具抛出的异常,如何定制? 本文先给出可直接复述的结论,再用最小代码说明LangGraph ToolNode 异常处理 handle_tool_errors的工作方式、判断依据、项目边界和常见误区。
并行工具执行时为什么需要并发上限,如何确定这个上限? 本文先给出可直接复述的结论,再用最小代码说明并行工具 并发限制 速率的工作方式、判断依据、项目边界和常见误区。
第二个工具的参数依赖第一个工具的结果时,Agent 编排层应如何保证顺序? 本文先给出可直接复述的结论,再用最小代码说明工具调用 依赖 顺序执行 编排的工作方式、判断依据、项目边界和常见误区。
并行工具调用降低端到端延迟的同时会带来哪些成本与可控性问题? 本文先给出可直接复述的结论,再用最小代码说明并行工具调用 延迟 成本 权衡的工作方式、判断依据、项目边界和常见误区。
并行工具调用中部分成功部分失败时,结果应如何合并回传给模型? 本文先给出可直接复述的结论,再用最小代码说明并行工具调用 部分失败 结果合并的工作方式、判断依据、项目边界和常见误区。
两个有写副作用的工具能否并行执行,需要检查什么冲突? 本文先给出可直接复述的结论,再用最小代码说明并行工具 写副作用 冲突的工作方式、判断依据、项目边界和常见误区。
什么条件下模型可以在同一轮发起多个并行工具调用? 本文先给出可直接复述的结论,再用最小代码说明parallel tool calls 并行工具调用 条件的工作方式、判断依据、项目边界和常见误区。
对数值型工具参数(如分页大小、超时秒数)应在哪一层做范围限制? 本文先给出可直接复述的结论,再用最小代码说明工具参数 范围校验 边界值的工作方式、判断依据、项目边界和常见误区。
模型漏传必填参数时,直接报错和要求模型补全各适用于什么场景? 本文先给出可直接复述的结论,再用最小代码说明工具调用 缺少必填参数 处理的工作方式、判断依据、项目边界和常见误区。
文件读写类工具收到模型给出的路径参数时如何防止目录穿越? 本文先给出可直接复述的结论,再用最小代码说明工具调用 路径参数 目录穿越 防护的工作方式、判断依据、项目边界和常见误区。
把模型生成的参数拼进 SQL 或 shell 命令时,工具实现层必须做什么防护? 本文先给出可直接复述的结论,再用最小代码说明工具调用 参数注入 SQL 注入 防护的工作方式、判断依据、项目边界和常见误区。
模型把数字参数传成字符串时,工具运行时应该自动类型强转还是直接报错? 本文先给出可直接复述的结论,再用最小代码说明工具调用 参数类型 强转 校验的工作方式、判断依据、项目边界和常见误区。
模型在工具调用中传了 schema 未声明的多余字段,运行时应该忽略还是报错? 本文先给出可直接复述的结论,再用最小代码说明工具调用 多余参数 additionalProperties的工作方式、判断依据、项目边界和常见误区。
为什么模型生成的工具参数必须在服务端再做一次校验,而不能信任 schema 声明? 本文先给出可直接复述的结论,再用最小代码说明工具调用 参数验证 服务端校验的工作方式、判断依据、项目边界和常见误区。