Agent 收到 LLM 429 响应时，为什么必须优先遵守 Retry-After 而不是固定退避？
Agent 收到 LLM 429 响应时，为什么必须优先遵守 Retry-After 而不是固定退避？ 本文先给出可直接复述的结论，再用最小代码说明Agent 429 Retry-After 退避的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 429 Retry-After 退避
面试知识索引 · 分类、标签与搜索
AI Agent · 生产运行面试题，40 道完整答案
AI Agent · 生产运行面试题第 1 页，显示第 1–40 题，共找到 40 道完整解析，可继续按分类、标签与关键词缩小范围。
40筛选结果
52技术分类
178检索标签
1索引分页
快速定位
清除全部筛选分类、标签与关键词搜索
第 1 页
本页面试问题
按稳定语义路径排序
- 0001
- 0002
为 Agent 的成本超支设计告警时，为什么按小时成本燃烧率告警优于按累计账单告警？
为 Agent 的成本超支设计告警时，为什么按小时成本燃烧率告警优于按累计账单告警？ 本文先给出可直接复述的结论，再用最小代码说明Agent 成本 告警 燃烧率的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 成本 告警 燃烧率 - 0003
Python asyncio 实现的 Agent 中，取消一个正在执行的 LLM 流式请求需要穿过哪几层才能生效？
Python asyncio 实现的 Agent 中，取消一个正在执行的 LLM 流式请求需要穿过哪几层才能生效？ 本文先给出可直接复述的结论，再用最小代码说明asyncio Agent 取消 传播 流式的工作方式、判断依据、项目边界和常见误区。
核心关键词asyncio Agent 取消 传播 流式 - 0004
Agent 任务执行到一半 token 预算耗尽时，应该直接终止还是降级收尾，判断依据是什么？
Agent 任务执行到一半 token 预算耗尽时，应该直接终止还是降级收尾，判断依据是什么？ 本文先给出可直接复述的结论，再用最小代码说明Agent 预算 耗尽 降级 收尾的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 预算 耗尽 降级 收尾 - 0005
Agent 的运行器为什么要区分「用户取消」和「超时中断」两条退出路径？
Agent 的运行器为什么要区分「用户取消」和「超时中断」两条退出路径？ 本文先给出可直接复述的结论，再用最小代码说明Agent 取消 超时 退出路径的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 取消 超时 退出路径 - 0006
Agent 任务的检查点应该每个节点都存还是只在关键边界存，判断标准是什么？
Agent 任务的检查点应该每个节点都存还是只在关键边界存，判断标准是什么？ 本文先给出可直接复述的结论，再用最小代码说明Agent 检查点 粒度 开销的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 检查点 粒度 开销 - 0007
写检查点和执行带副作用的工具调用之间的顺序如何保证崩溃后语义正确？
写检查点和执行带副作用的工具调用之间的顺序如何保证崩溃后语义正确？ 本文先给出可直接复述的结论，再用最小代码说明Agent 检查点 副作用 顺序 崩溃的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 检查点 副作用 顺序 崩溃 - 0008
多租户 Agent 系统的并发配额应限制在哪一层？
多租户 Agent 系统的并发配额应限制在哪一层？ 本文先给出可直接复述的结论，再用最小代码说明多租户 Agent 并发配额粒度设计的工作方式、判断依据、项目边界和常见误区。
核心关键词多租户 Agent 并发配额粒度设计 - 0009
长循环 Agent 的上下文持续增长时，截断、摘要与外部化三种控制手段各自牺牲了什么？
长循环 Agent 的上下文持续增长时，截断、摘要与外部化三种控制手段各自牺牲了什么？ 本文先给出可直接复述的结论，再用最小代码说明Agent 上下文 截断 摘要 成本的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 上下文 截断 摘要 成本 - 0010
长时间运行的工具不支持外部取消时，Agent 如何在工具边界之间实现协作式取消？
长时间运行的工具不支持外部取消时，Agent 如何在工具边界之间实现协作式取消？ 本文先给出可直接复述的结论，再用最小代码说明Agent 协作式取消 检查点的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 协作式取消 检查点 - 0011
Agent 任务反复失败进入死信队列后，恢复流程应该怎么设计而不是简单重投？
Agent 任务反复失败进入死信队列后，恢复流程应该怎么设计而不是简单重投？ 本文先给出可直接复述的结论，再用最小代码说明Agent 死信队列 恢复 重放的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 死信队列 恢复 重放 - 0012
Agent 任务偶发失败但日志显示每次 LLM 输出都不同，如何建立可复现的诊断手段？
Agent 任务偶发失败但日志显示每次 LLM 输出都不同，如何建立可复现的诊断手段？ 本文先给出可直接复述的结论，再用最小代码说明Agent 非确定 复现 调试的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 非确定 复现 调试 - 0013
把自动化评测作为 Agent 变更上线门禁时，评测集和通过阈值如何设定才能挡住真实回退？
把自动化评测作为 Agent 变更上线门禁时，评测集和通过阈值如何设定才能挡住真实回退？ 本文先给出可直接复述的结论，再用最小代码说明Agent 评测 上线门禁 阈值的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 评测 上线门禁 阈值 - 0014
为 Agent 设计主备模型级联降级时，什么失败应该触发切换、什么失败不应触发？
为 Agent 设计主备模型级联降级时，什么失败应该触发切换、什么失败不应触发？ 本文先给出可直接复述的结论，再用最小代码说明Agent 模型 级联 降级 切换的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 模型 级联 降级 切换 - 0015
带人工审批的 Agent 在等待期间挂起，恢复执行时必须重新校验哪些外部条件？
带人工审批的 Agent 在等待期间挂起，恢复执行时必须重新校验哪些外部条件？ 本文先给出可直接复述的结论，再用最小代码说明Agent 人工审批 挂起 恢复 校验的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 人工审批 挂起 恢复 校验 - 0016
LangGraph 中 checkpointer 保存了哪些状态，使得被中断的 Agent 图能从最近节点恢复而不是从头执行？
LangGraph 中 checkpointer 保存了哪些状态，使得被中断的 Agent 图能从最近节点恢复而不是从头执行？ 本文先给出可直接复述的结论，再用最小代码说明LangGraph checkpointer 恢复 状态的工作方式、判断依据、项目边界和常见误区。
核心关键词LangGraph checkpointer 恢复 状态 - 0017
Agent 的 LLM 连接池和并发数怎样根据上游限额估算？
用请求速率、Token 预算和占用时间估算在途请求，区分物理连接与业务许可，说明流式响应、多副本总额、尾延迟与容量观测。
核心关键词Agent LLM 连接池并发数与速率限额估算 - 0018
Agent 的提示词和工具参数里含用户敏感信息时，日志与 trace 记录应做哪些处理？
Agent 的提示词和工具参数里含用户敏感信息时，日志与 trace 记录应做哪些处理？ 本文先给出可直接复述的结论，再用最小代码说明Agent 日志 trace 敏感信息脱敏的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 日志 trace 敏感信息脱敏 - 0019
Agent 陷入重复调用同一工具的循环时，运行器应检测什么信号并如何熔断？
Agent 陷入重复调用同一工具的循环时，运行器应检测什么信号并如何熔断？ 本文先给出可直接复述的结论，再用最小代码说明Agent 循环 检测 熔断的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 循环 检测 熔断 - 0020
除了延迟和错误率，Agent 系统还必须监控哪些特有指标才能发现「跑得很顺但结果在变糟」？
除了延迟和错误率，Agent 系统还必须监控哪些特有指标才能发现「跑得很顺但结果在变糟」？ 本文先给出可直接复述的结论，再用最小代码说明Agent 监控 指标 轮次 成本 成功率的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 监控 指标 轮次 成本 成功率 - 0021
新模型版本灰度上线后 Agent 成功率下降，回滚时除了切回模型还要处理哪些残留状态？
新模型版本灰度上线后 Agent 成功率下降，回滚时除了切回模型还要处理哪些残留状态？ 本文先给出可直接复述的结论，再用最小代码说明Agent 模型 灰度 回滚的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 模型 灰度 回滚 - 0022
如何防止单个租户的 Agent 任务把全站的 LLM 成本配额耗尽？
如何防止单个租户的 Agent 任务把全站的 LLM 成本配额耗尽？ 本文先给出可直接复述的结论，再用最小代码说明Agent 租户 成本 配额 公平的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 租户 成本 配额 公平 - 0023
提示词改动导致 Agent 行为回退时，什么情况下应该向前修复而不是直接回滚到旧版本？
提示词改动导致 Agent 行为回退时，什么情况下应该向前修复而不是直接回滚到旧版本？ 本文先给出可直接复述的结论，再用最小代码说明Agent 提示词 回滚 前修的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 提示词 回滚 前修 - 0024
Agent 任务队列用至少一次投递时，消费者侧如何保证工具调用不产生重复副作用？
Agent 任务队列用至少一次投递时，消费者侧如何保证工具调用不产生重复副作用？ 本文先给出可直接复述的结论，再用最小代码说明Agent 队列 至少一次 幂等 去重的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 队列 至少一次 幂等 去重 - 0025
LLM 提供商标的速率被打满时，Agent 队列消费者应如何把背压传导回生产端？
LLM 提供商标的速率被打满时，Agent 队列消费者应如何把背压传导回生产端？ 本文先给出可直接复述的结论，再用最小代码说明Agent 队列 背压 限流 生产者的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 队列 背压 限流 生产者 - 0026
交互式与批量 Agent 共用资源时，怎样防止队列互相饿死？
分析优先级排序与在途资源隔离的区别，通过加权选择例子说明批量最低份额、空闲借用、长任务切片和两类流量的等待指标。
核心关键词Agent 交互请求与批量任务队列优先级隔离 - 0027
LLM 的 RPM 没打满但 TPM 先打满时，Agent 客户端应调整什么而不是继续加并发？
LLM 的 RPM 没打满但 TPM 先打满时，Agent 客户端应调整什么而不是继续加并发？ 本文先给出可直接复述的结论，再用最小代码说明LLM RPM TPM 限流 Agent的工作方式、判断依据、项目边界和常见误区。
核心关键词LLM RPM TPM 限流 Agent - 0028
限流器放在 Agent 网关侧和放在 LLM 客户端侧，行为差异在哪里？
限流器放在 Agent 网关侧和放在 LLM 客户端侧，行为差异在哪里？ 本文先给出可直接复述的结论，再用最小代码说明Agent 限流器 位置 网关 客户端的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 限流器 位置 网关 客户端 - 0029
大量 Agent 任务同时遭遇上游限流时，没有抖动的重试会造成什么二次故障？
大量 Agent 任务同时遭遇上游限流时，没有抖动的重试会造成什么二次故障？ 本文先给出可直接复述的结论，再用最小代码说明Agent 重试 抖动 重试风暴的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 重试 抖动 重试风暴 - 0030
Agent 使用流式响应时，整体超时和首 token 超时应分别设置多长，为什么不能用同一个值？
Agent 使用流式响应时，整体超时和首 token 超时应分别设置多长，为什么不能用同一个值？ 本文先给出可直接复述的结论，再用最小代码说明Agent 流式 首token 超时的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 流式 首token 超时 - 0031
Orchestrator 模式的 Agent 扇出子任务时，为什么必须限制扇出宽度和总深度？
Orchestrator 模式的 Agent 扇出子任务时，为什么必须限制扇出宽度和总深度？ 本文先给出可直接复述的结论，再用最小代码说明Agent 子任务 扇出 并发 上限的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 子任务 扇出 并发 上限 - 0032
为 Agent 的多步任务设计幂等键时，键应该包含哪些字段才能兼顾重试与人工重跑？
为 Agent 的多步任务设计幂等键时，键应该包含哪些字段才能兼顾重试与人工重跑？ 本文先给出可直接复述的结论，再用最小代码说明Agent 幂等键 设计 重试的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 幂等键 设计 重试 - 0033
给单次 Agent 任务设置 token 预算时，预算应该按什么单位计量才不被输出长度波动击穿？
给单次 Agent 任务设置 token 预算时，预算应该按什么单位计量才不被输出长度波动击穿？ 本文先给出可直接复述的结论，再用最小代码说明Agent token 预算 计量 输入 输出的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent token 预算 计量 输入 输出 - 0034
Agent 调用的某些工具本身按次计费时，如何在编排层限制单次任务的工具花费上限？
Agent 调用的某些工具本身按次计费时，如何在编排层限制单次任务的工具花费上限？ 本文先给出可直接复述的结论，再用最小代码说明Agent 工具 计费 上限 编排的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 工具 计费 上限 编排 - 0035
Agent 依赖的工具升级了参数 schema，如何在不下线服务的情况下完成切换和可回退？
Agent 依赖的工具升级了参数 schema，如何在不下线服务的情况下完成切换和可回退？ 本文先给出可直接复述的结论，再用最小代码说明Agent 工具 schema 升级 兼容 回退的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 工具 schema 升级 兼容 回退 - 0036
Agent 调用的工具没有声明超时上限时，编排层应如何确定默认超时？
Agent 调用的工具没有声明超时上限时，编排层应如何确定默认超时？ 本文先给出可直接复述的结论，再用最小代码说明Agent 工具 超时 默认值的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 工具 超时 默认值 - 0037
用 OpenTelemetry 追踪一次 Agent 任务时，span 应如何划分才能让 LLM 调用、工具执行与重试各层问题可定位？
用 OpenTelemetry 追踪一次 Agent 任务时，span 应如何划分才能让 LLM 调用、工具执行与重试各层问题可定位？ 本文先给出可直接复述的结论，再用最小代码说明OpenTelemetry Agent 链路追踪 span 划分的工作方式、判断依据、项目边界和常见误区。
核心关键词OpenTelemetry Agent 链路追踪 span 划分 - 0038
用户中途取消 Agent 任务时，立即停止与优雅收尾之间应执行哪些步骤？
用户中途取消 Agent 任务时，立即停止与优雅收尾之间应执行哪些步骤？ 本文先给出可直接复述的结论，再用最小代码说明Agent 用户取消 优雅停止的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 用户取消 优雅停止 - 0039
Agent 调用 LLM 或工具失败后，哪些错误类别绝不应重试？
Agent 调用 LLM 或工具失败后，哪些错误类别绝不应重试？ 本文先给出可直接复述的结论，再用最小代码说明Agent 重试 可重试错误 分类的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 重试 可重试错误 分类 - 0040
为什么 Agent 任务需要一个覆盖所有轮次的整体截止时间，而不是只给每次 LLM 调用设超时？
为什么 Agent 任务需要一个覆盖所有轮次的整体截止时间，而不是只给每次 LLM 调用设超时？ 本文先给出可直接复述的结论，再用最小代码说明Agent 整体截止时间 超时的工作方式、判断依据、项目边界和常见误区。
核心关键词Agent 整体截止时间 超时