前端进阶之旅前端进阶之旅
  • 基础篇HTML/CSS/JS 打底
  • 进阶篇原理与工程化
  • 高频篇面试最常问的那批
  • 精选篇按模块收敛的总结
  • 手写篇常考代码手写实现
  • 面经篇真实面试问题复盘
  • AI 篇NEWAI 时代的前端考点
  • 历年面经NEW按年份追踪真实考点
  • 每日一题每天一道,攒手感
  • 专项自测100 题快速查漏
  • 小程序题库小程序专项刷题
  • 算法题库NEW在线编码即时判题
  • 知识卡片NEW碎片时间过考点
  • 面试题大全常见问题解析
  • AI 答疑NEW随时提问,即时解析
  • AI 模拟面试NEW模拟真实面试 + 报告
  • AI 定制路线NEW按你的简历现排
  • AI 知识地图NEW串起全站知识点
  • 原理篇React / Vue 源码拆解
  • HTTP从报文一路讲到 HTTPS
  • 浏览器渲染、事件循环、进程
  • 计算机基础Linux、网络、操作系统
  • 设计模式23 种模式怎么用
  • Node学习指南从环境搭建到服务端
  • NPM工作流script、依赖与发布
  • Docker容器化部署上手
  • Canvas图形与动画实战
  • 前端系统进阶学习大型项目工程化
  • 前端综合文章长期沉淀的实践文
  • 思维导图知识点全景图
  • 学习路线按图索骥不跑偏
  • AI 热点NEWAI 每日动态
  • 公众号动态公众号历史文章
  • 博客动态站长的技术博客
  • 开发者导航常用工具与文档站
  • 基础篇HTML/CSS/JS 打底
  • 进阶篇原理与工程化
  • 高频篇面试最常问的那批
  • 精选篇按模块收敛的总结
  • 手写篇常考代码手写实现
  • 面经篇真实面试问题复盘
  • AI 篇NEWAI 时代的前端考点
  • 历年面经NEW按年份追踪真实考点
  • 每日一题每天一道,攒手感
  • 专项自测100 题快速查漏
  • 小程序题库小程序专项刷题
  • 算法题库NEW在线编码即时判题
  • 知识卡片NEW碎片时间过考点
  • 面试题大全常见问题解析
  • AI 答疑NEW随时提问,即时解析
  • AI 模拟面试NEW模拟真实面试 + 报告
  • AI 定制路线NEW按你的简历现排
  • AI 知识地图NEW串起全站知识点
  • 原理篇React / Vue 源码拆解
  • HTTP从报文一路讲到 HTTPS
  • 浏览器渲染、事件循环、进程
  • 计算机基础Linux、网络、操作系统
  • 设计模式23 种模式怎么用
  • Node学习指南从环境搭建到服务端
  • NPM工作流script、依赖与发布
  • Docker容器化部署上手
  • Canvas图形与动画实战
  • 前端系统进阶学习大型项目工程化
  • 前端综合文章长期沉淀的实践文
  • 思维导图知识点全景图
  • 学习路线按图索骥不跑偏
  • AI 热点NEWAI 每日动态
  • 公众号动态公众号历史文章
  • 博客动态站长的技术博客
  • 开发者导航常用工具与文档站
首页程序员面试题库AI Agent · 安全面试题
面试知识索引 · 分类、标签与搜索

AI Agent · 安全面试题,76 道完整答案

AI Agent · 安全面试题第 1 页,显示第 1–50 题,共找到 76 道完整解析,可继续按分类、标签与关键词缩小范围。

76筛选结果
52技术分类
178检索标签
2索引分页
按分类建立知识面,再用标签和搜索定位问题

每页只渲染 50 道题。分类与标签分页可抓取,自由搜索结果不会制造无限 SEO 页面。

快速定位

分类、标签与关键词搜索

清除全部筛选
题库检索
技术分类52 个
全部分类5000AI Agent511浏览器301JavaScript285React281AI 开发262CSS240Node.js217TypeScript206Vue180前端工程化138React Native135
查看全部 52 个分类
操作系统135数据库134Docker95计算机网络94API 设计90Kubernetes90HTML89Redis89全栈开发88分布式系统88系统设计86HTTP85Next.js60Angular58Linux53Nuxt51PostgreSQL46可观测性46设计模式46小程序45身份与权限45无障碍44MongoDB43PWA43Web 安全43Git42前端测试42前端性能41WebAssembly40测试40AI 工程37SvelteKit37Go35前端数据管理30React Router29AI 全栈28Svelte27算法12Java10数据结构5前端手写题3
AI Agent 标签43 个
全部标签安全76工具调用63LangGraph59任务规划53Agent 记忆51MCP47MCP 协议45多 Agent45评估与调试45权限与安全43编码与执行42记忆与状态41Agent 架构40多 Agent 协作40工作流编排40
查看其余 28 个标签
浏览器与 UI 自动化40生产运行40浏览器自动化26并发编程25Prompt24测试20沙箱安全18可观测性13路由12流处理9AI 评测8HTTP8缓存7Web 可访问性6表单6容器化5异步编程5RAG4向量检索4实时通信4构建工具4离线应用3CI/CD2SQL2数据库事务2算法2动画1性能优化1
当前页01 / 2

正在显示第 1–50 题

AI Agent50
第 1 页

本页面试问题

按稳定语义路径排序

  1. 0001
    AI Agent浏览器与 UI 自动化

    Playwright 的 frameLocator 如何定位 iframe 内元素,跨域 iframe 会带来哪些额外限制?

    围绕“Playwright 的 frameLocator 如何定位 iframe 内元素,跨域 iframe 会带来哪些额”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确 frame 链式定位模型与跨域下注入限制。

    核心关键词Playwright frameLocator 跨域 iframe 限制
    #浏览器与 UI 自动化#浏览器自动化#安全
  2. 0002
    AI Agent浏览器与 UI 自动化

    什么时候应该推动在页面中注入 data-testid 并用 getByTestId,而不是继续强化语义定位?

    围绕“什么时候应该推动在页面中注入 data-testid 并用 getByTestId,而不是继续强化语义定位”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确无语义组件(图标按钮、纯 div 列表)下 testid 的引入标准与成本。

    核心关键词Playwright getByTestId data-testid 使用场景
    #浏览器与 UI 自动化#浏览器自动化#安全
  3. 0003
    AI Agent编码与执行

    Agent 沙箱中应如何设计文件系统挂载策略,使其只能读写任务所需的目录?

    围绕“Agent 沙箱中应如何设计文件系统挂载策略,使其只能读写任务所需的目录”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确工作区可写、系统与密钥目录只读或不挂载的最小权限原则。

    核心关键词Agent 沙箱文件系统只读挂载策略
    #编码与执行#沙箱安全#安全
  4. 0004
    AI Agent编码与执行

    模型可能编造不存在的包名,Agent 安装依赖前应如何校验包的真实性与供应链安全?

    围绕“模型可能编造不存在的包名,Agent 安装依赖前应如何校验包的真实性与供应链安全”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确包名拼写抢注风险与 registry 核验、锁定哈希的手段。

    核心关键词防范模型编造包名 slopsquatting 供应链校验
    #编码与执行#安全
  5. 0005
    AI Agent编码与执行

    执行 Agent 生成代码时,进程隔离、容器隔离与微虚拟机隔离各自防御什么风险?

    围绕“执行 Agent 生成代码时,进程隔离、容器隔离与微虚拟机隔离各自防御什么风险”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确三种隔离级别针对文件系统、网络、内核攻击面的差异。

    核心关键词Agent 代码执行沙箱 容器与 microVM 隔离
    #编码与执行#沙箱安全#安全
  6. 0006
    AI Agent编码与执行

    给 Agent 环境注入 API 密钥等机密时,如何避免机密被生成代码读取或泄漏到补丁里?

    围绕“给 Agent 环境注入 API 密钥等机密时,如何避免机密被生成代码读取或泄漏到补丁里”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确短期凭据、环境变量作用域、补丁扫描的组合防护。

    核心关键词Agent 沙箱机密注入防泄漏
    #编码与执行#沙箱安全#安全
  7. 0007
    AI Agent编码与执行

    扫描发现间接依赖存在漏洞时,Agent 应如何判断能否安全升级并验证不破坏兼容性?

    围绕“扫描发现间接依赖存在漏洞时,Agent 应如何判断能否安全升级并验证不破坏兼容性”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确间接依赖升级的约束来源与回归验证步骤。

    核心关键词Agent 间接依赖漏洞安全升级与兼容验证
    #编码与执行#安全
  8. 0008
    AI Agent评估与调试

    针对 Agent 的输入边界(空输入、超长上下文、对抗指令)应设计哪些评估用例

    围绕“针对 Agent 的输入边界(空输入、超长上下文、对抗指令)应设计哪些评估用例”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖回答要按输入类别说明各自检验的失败模式(拒答、截断丢信息、指令注入)。

    核心关键词Agent 边界输入 对抗指令 评估用例
    #评估与调试#安全
  9. 0009
    AI Agent评估与调试

    如何评估 Agent 在工具超时、报错、返回脏数据时的鲁棒性

    围绕“如何评估 Agent 在工具超时、报错、返回脏数据时的鲁棒性”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要说明用故障注入构造异常返回、评估重试/降级/澄清行为是否正确的方案。

    核心关键词Agent 工具故障 鲁棒性 故障注入评估
    #评估与调试#安全
  10. 0010
    AI AgentAgent 架构

    Agent 的「观察—思考—行动」循环每一轮具体交换哪些信息?

    解释 AI Agent 循环中的消息与状态流转:工具调用请求、执行结果、上下文整理和停止条件。结合代码修复场景,区分模型推理、宿主执行与权限校验。

    核心关键词AI Agent 观察思考行动循环
    #Agent 架构#工具调用#安全
  11. 0011
    AI AgentAgent 架构

    给 Agent 授予文件、网络等系统权限时应遵循什么最小化原则?

    围绕“给 Agent 授予文件、网络等系统权限时应遵循什么最小化原则”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确按任务授予最小权限、隔离执行环境的判据。

    核心关键词agent 权限最小化 沙箱 sandbox 安全
    #Agent 架构#沙箱安全#安全
  12. 0012
    AI AgentAgent 架构

    Agent 自主性越高为什么越需要监督机制?

    分析 AI Agent 自主执行与安全护栏的关系。以明确设定的售后场景说明工具权限、人工检查点、预算限制和环境反馈如何配合,并解释各层机制的能力边界。

    核心关键词AI Agent 自主性与安全护栏
    #Agent 架构#安全
  13. 0013
    AI AgentAgent 架构

    如何让 Agent 在 token 或成本预算内自适应地决定探索深度?

    围绕“如何让 Agent 在 token 或成本预算内自适应地决定探索深度”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确预算信号注入决策循环与降级策略的设计。

    核心关键词agent 成本预算 token budget 自适应 深度
    #Agent 架构#安全
  14. 0014
    AI AgentMCP 协议

    MCP 协议中 Host、Client、Server 三者分别承担什么角色,为什么 Client 要与 Server 保持一对一连接?

    解释 MCP 架构中 Host、Client、Server 的角色分工:Host 管会话与权限,Client 是单连接协议端点,Server 提供能力,并说明一对一连接对状态隔离的意义。

    核心关键词MCP 架构 host client server 角色
    #MCP 协议#MCP#安全
  15. 0015
    AI AgentMCP 协议

    MCP 客户端为什么采用 OAuth 动态客户端注册(DCR),服务端不支持 DCR 时有哪些回退?

    围绕“MCP 客户端为什么采用 OAuth 动态客户端注册(DCR),服务端不支持 DCR 时有哪些回退”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确客户端预注册不可行的生态理由与回退选项。

    核心关键词MCP 动态客户端注册 DCR OAuth
    #MCP 协议#MCP#安全
  16. 0016
    AI AgentMCP 协议

    MCP HTTP 传输的授权基于 OAuth 2.1,客户端如何发现授权服务器(metadata 发现流程)?

    围绕“MCP HTTP 传输的授权基于 OAuth 2.1,客户端如何发现授权服务器(metadata 发现流程)”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确 401 与 WWW-Authenticate、resource metadata 的发现链。

    核心关键词MCP authorization OAuth 2.1 metadata 发现
    #MCP 协议#MCP#安全
  17. 0017
    AI AgentMCP 协议

    MCP 授权流程中为什么强制 PKCE,公共客户端的 redirect URI 与令牌存储应注意什么?

    围绕“MCP 授权流程中为什么强制 PKCE,公共客户端的 redirect URI 与令牌存储应注意什么”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确授权码拦截防护与本地回环重定向实践。

    核心关键词MCP PKCE OAuth 公共客户端
    #MCP 协议#MCP#安全
  18. 0018
    AI AgentMCP 协议

    MCP 授权为什么要求 RFC 8707 Resource Indicators,如何防止 token 被滥用到其他服务端?

    围绕“MCP 授权为什么要求 RFC 8707 Resource Indicators,如何防止 token 被滥用到其他”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确 audience 绑定防止令牌混用的目的。

    核心关键词MCP OAuth resource indicator RFC 8707
    #MCP 协议#MCP#安全
  19. 0019
    AI AgentMCP 协议

    MCP 安全模型中的 Confused Deputy(困惑代理)问题是什么,代理转发令牌时如何产生?

    围绕“MCP 安全模型中的 Confused Deputy(困惑代理)问题是什么,代理转发令牌时如何产生”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确静态 client id 代理被诱导同意的攻击链与显式同意要求。

    核心关键词MCP confused deputy 困惑代理 安全
    #MCP 协议#MCP#安全
  20. 0020
    AI AgentMCP 协议

    设计一个连接多个 MCP Server 的 Host 应用时,工具命名冲突与权限隔离应如何处理?

    围绕“设计一个连接多个 MCP Server 的 Host 应用时,工具命名冲突与权限隔离应如何处理”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确命名空间前缀与按会话隔离授权上下文的设计决策。

    核心关键词MCP 多服务端 Host 设计 命名冲突
    #MCP 协议#MCP#安全
  21. 0021
    AI AgentMCP 协议

    MCP 本地 HTTP 服务端为什么要校验 Origin 与 Host 头以防范 DNS 重绑定攻击?

    围绕“MCP 本地 HTTP 服务端为什么要校验 Origin 与 Host 头以防范 DNS 重绑定攻击”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确监听 localhost 仍需验证来源头的理由。

    核心关键词MCP transport 安全 DNS rebinding Origin
    #MCP 协议#MCP#安全
  22. 0022
    AI Agent记忆与状态

    Agent 对话摘要应该什么时候生成,哪些内容必须保留?

    从上下文预算、任务阶段和恢复成本设计 Agent 对话摘要,说明目标约束、工具证据、未完成事项如何保留,以及摘要漂移、过期事实和权限误记的防范方法。

    核心关键词Agent 对话摘要触发条件和内容粒度
    #记忆与状态#Agent 记忆#安全
  23. 0023
    AI Agent记忆与状态

    检索到的记忆应放在系统提示、对话历史开头还是紧贴最新用户消息,位置对效果有何影响?

    围绕“检索到的记忆应放在系统提示、对话历史开头还是紧贴最新用户消息,位置对效果有何影响”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖必须分析位置对模型注意力利用与被覆盖风险的影响。

    核心关键词Agent 记忆注入 位置 prompt 召回
    #记忆与状态#Prompt#Agent 记忆
  24. 0024
    AI Agent记忆与状态

    用户画像类记忆用自由文本保存还是结构化 JSON 保存,各自在更新与检索上有何代价?

    围绕“用户画像类记忆用自由文本保存还是结构化 JSON 保存,各自在更新与检索上有何代价”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖必须比较两种格式在字段级更新、检索注入与 token 占用上的差异。

    核心关键词Agent 用户画像 结构化 自由文本 记忆格式
    #记忆与状态#Agent 记忆#安全
  25. 0025
    AI Agent记忆与状态

    知识库类只读上下文与会话记忆在注入和管理上应如何区分对待?

    围绕“知识库类只读上下文与会话记忆在注入和管理上应如何区分对待”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖必须区分无需更新的外部知识与需要增删改的记忆在生命周期管理上的差异。

    核心关键词Agent 只读上下文 RAG 会话记忆 区分
    #记忆与状态#RAG#Agent 记忆
  26. 0026
    AI Agent多 Agent 协作

    多 Agent 任务交接消息应包含哪些字段,才能让接收方独立执行?

    以代码审查任务设计交接契约,解释任务标识、输入版本、授权范围、验收标准、截止时间和结果回传,并区分业务交接格式与标准协议。

    核心关键词多 Agent 任务交接协议字段设计
    #多 Agent 协作#多 Agent#安全
  27. 0027
    AI Agent多 Agent 协作

    多 Agent 系统里不可信来源的输入(如网页内容)只应交给哪个角色的 Agent 处理,为什么?

    围绕“多 Agent 系统里不可信来源的输入(如网页内容)只应交给哪个角色的 Agent 处理,为什么”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖回答不可信内容隔离在只读 Agent 与权限收窄的设计。

    核心关键词多 Agent 安全边界 不可信输入 隔离
    #多 Agent 协作#多 Agent#安全
  28. 0028
    AI Agent多 Agent 协作

    多个 Agent 的工具集应该完全隔离、部分共享还是完全一致,划分依据是什么?

    围绕“多个 Agent 的工具集应该完全隔离、部分共享还是完全一致,划分依据是什么”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖给出按最小权限与失败域划分工具的依据。

    核心关键词多 Agent 工具集 划分 权限
    #多 Agent 协作#多 Agent#安全
  29. 0029
    AI Agent多 Agent 协作

    为什么通常只让一个 Agent 拥有写外部系统的权限,其余 Agent 只能提案?

    围绕“为什么通常只让一个 Agent 拥有写外部系统的权限,其余 Agent 只能提案”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖回答副作用集中管理与审批流设计。

    核心关键词多 Agent 写权限 集中 副作用控制
    #多 Agent 协作#多 Agent#安全
  30. 0030
    AI Agent任务规划

    计划进入执行前应该做哪些静态校验?

    围绕“计划进入执行前应该做哪些静态校验”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确工具存在性、参数模式、权限与依赖完整性的校验清单。

    核心关键词agent 计划 执行前校验
    #任务规划#安全
  31. 0031
    AI Agent任务规划

    高风险工具(删数据、发邮件)在计划执行中如何做权限门控?

    围绕“高风险工具(删数据、发邮件)在计划执行中如何做权限门控”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确在计划节点上标记审批点与中断等待人工确认的机制。

    核心关键词agent 高风险工具 权限审批 human-in-the-loop
    #任务规划#安全
  32. 0032
    AI Agent生产运行

    Agent 调用 LLM 或工具失败后,哪些错误类别绝不应重试?

    围绕“Agent 调用 LLM 或工具失败后,哪些错误类别绝不应重试”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖必须区分限流、瞬时网络与参数/权限类错误。

    核心关键词Agent 重试 可重试错误 分类
    #生产运行#安全
  33. 0033
    AI Agent权限与安全

    如何防止 Agent 的已授权工具调用请求被重放(replay)执行两次?

    围绕“如何防止 Agent 的已授权工具调用请求被重放(replay)执行两次”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确一次性令牌、幂等键与时间窗校验的手段。

    核心关键词工具调用防重放 nonce 幂等 Agent
    #权限与安全#工具调用#安全
  34. 0034
    AI Agent权限与安全

    Agent 应使用最终用户的权限令牌还是独立的 Agent 身份访问下游系统?

    围绕“Agent 应使用最终用户的权限令牌还是独立的 Agent 身份访问下游系统”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖必须比较用户委托令牌与 Agent 独立服务账号在授权边界、审计归因上的取舍。

    核心关键词Agent 用户令牌委托 OAuth on-behalf-of
    #权限与安全#安全
  35. 0035
    AI Agent权限与安全

    Agent 长期记忆(long-term memory)持久化了用户输入,会带来哪些跨会话风险?

    围绕“Agent 长期记忆(long-term memory)持久化了用户输入,会带来哪些跨会话风险”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确恶意内容经记忆跨会话生效与隐私残留两类风险。

    核心关键词Agent 长期记忆跨会话注入风险
    #权限与安全#Agent 记忆#安全
  36. 0036
    AI Agent权限与安全

    如何设计工具调用的白名单路由,使模型只能选择「允许的工具+合法参数」?

    围绕“如何设计工具调用的白名单路由,使模型只能选择「允许的工具+合法参数」”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖必须给出在编排层而非模型层强制约束的实现方式。

    核心关键词Agent 工具白名单路由设计
    #权限与安全#工具调用#路由
  37. 0037
    AI Agent权限与安全

    人工确认弹窗过多导致审批疲劳时,如何在安全与可用性间设计分层授权?

    围绕“人工确认弹窗过多导致审批疲劳时,如何在安全与可用性间设计分层授权”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确按风险分级、预授权只读操作、批量低风险合并的策略。

    核心关键词审批疲劳 分层授权设计 Agent
    #权限与安全#安全
  38. 0038
    AI Agent权限与安全

    如何保证 Agent 审计日志本身不被篡改或选择性删除?

    围绕“如何保证 Agent 审计日志本身不被篡改或选择性删除”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确追加写、外部化存储与完整性校验机制。

    核心关键词防篡改审计日志 append-only Agent
    #权限与安全#安全#可观测性
  39. 0039
    AI Agent权限与安全

    设计 Agent 的自主模式与监督模式切换时,权限提升需要满足什么条件?

    围绕“设计 Agent 的自主模式与监督模式切换时,权限提升需要满足什么条件”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确从只读到写操作的显式授权升级路径与回退机制。

    核心关键词Agent 自主与监督模式权限提升条件
    #权限与安全#安全
  40. 0040
    AI Agent权限与安全

    为 Agent 的工具调用签发短期能力令牌(capability token)时,令牌声明应包含哪些约束?

    围绕“为 Agent 的工具调用签发短期能力令牌(capability token)时,令牌声明应包含哪些约束”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确绑定具体工具、参数约束、过期时间与单次使用的声明设计。

    核心关键词能力令牌声明约束 Agent 工具调用
    #权限与安全#工具调用#安全
  41. 0041
    AI Agent权限与安全

    向用户展示待确认操作摘要时,如何防止注入内容伪装成确认信息误导用户?

    围绕“向用户展示待确认操作摘要时,如何防止注入内容伪装成确认信息误导用户”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确确认摘要由可信通道独立生成、不复用模型自由文本的要求。

    核心关键词确认摘要防注入误导用户 Agent
    #权限与安全#安全
  42. 0042
    AI Agent权限与安全

    AI Agent 场景中的「混淆代理人」(confused deputy)问题如何发生?

    围绕“AI Agent 场景中的「混淆代理人」(confused deputy)问题如何发生”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确 Agent 以自身高权限代替不可信输入执行操作的机制与缓解。

    核心关键词混淆代理人问题 LLM 工具调用
    #权限与安全#工具调用#安全
  43. 0043
    AI Agent权限与安全

    共享模型实例时,如何防止一个用户的上下文内容泄露给另一用户?

    围绕“共享模型实例时,如何防止一个用户的上下文内容泄露给另一用户”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确请求级上下文隔离与禁止服务端跨请求拼接上下文的纪律。

    核心关键词LLM 上下文跨用户泄露防护
    #权限与安全#安全
  44. 0044
    AI Agent权限与安全

    多 Agent 协作时,Agent 之间的消息传递为什么需要独立的身份与权限边界?

    围绕“多 Agent 协作时,Agent 之间的消息传递为什么需要独立的身份与权限边界”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确子 Agent 权限不等同于主 Agent、消息需按不可信输入处理的原则。

    核心关键词多 Agent 消息传递身份权限边界
    #权限与安全#多 Agent#安全
  45. 0045
    AI Agent权限与安全

    为 AI Agent 设计纵深防御架构时,各层控制应如何分工而不是重复?

    围绕“为 AI Agent 设计纵深防御架构时,各层控制应如何分工而不是重复”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖必须划分模型层、编排层、执行环境层、外部系统层各自的控制职责,不罗列具体安全产品。

    核心关键词AI Agent 纵深防御架构分层控制
    #权限与安全#安全
  46. 0046
    AI Agent权限与安全

    运行时动态注册第三方工具(如 MCP server)会带来哪些授权风险?

    围绕“运行时动态注册第三方工具(如 MCP server)会带来哪些授权风险”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确工具清单可变导致的信任链与 rug pull 风险及固定/签名工具清单的对策。

    核心关键词MCP server 动态注册授权风险
    #权限与安全#MCP#安全
  47. 0047
    AI Agent权限与安全

    能读邮件和日历的个人助理 Agent,为什么被视为高风险组合权限?

    围绕“能读邮件和日历的个人助理 Agent,为什么被视为高风险组合权限”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖需要明确「访问私有数据+暴露于不可信内容+可对外通信」三者叠加的风险模型。

    核心关键词邮件日历 Agent 高风险权限组合
    #权限与安全#安全
  48. 0048
    AI Agent权限与安全

    哪些 Agent 操作必须经过人工确认(human-in-the-loop),判定标准是什么?

    围绕“哪些 Agent 操作必须经过人工确认(human-in-the-loop),判定标准是什么”给出直接结论、机制拆解、可复现验证、常见误区与追问,重点覆盖必须给出不可逆性、影响面、金额/权限等级的判定框架。

    核心关键词Agent 人工确认操作判定标准
    #权限与安全#安全
  49. 0049
    AI Agent权限与安全

    用专门的分类器或辅助模型检测提示注入,应如何评估其有效性?

    本题解释了评估提示注入检测分类器的方法:用混淆矩阵和ROC曲线度量误报漏报权衡,用对抗改写模拟攻击者自适应,并指出检测无法替代纵深防御。结论是有效性需与具体威胁模型绑定,不能依赖单一数字。

    核心关键词提示注入检测分类器评估方法
    #权限与安全#安全
  50. 0050
    AI Agent权限与安全

    越狱(jailbreak)攻击与提示注入攻击的目标有何不同?

    本题解释越狱攻击与提示注入攻击的核心区别:前者针对模型自身安全对齐,后者针对下游应用与工具权限。内容包括机制对比、具体场景、边界条件与判断方法,帮助理解两类攻击的不同防御思路。

    核心关键词越狱与提示注入攻击目标区别
    #权限与安全#安全
上一页
12
下一页
前端进阶之旅本地 Markdown 维护 · 服务端分页 · 完整内容对用户与搜索引擎一致