面向客户的智能体上线前做这五项检查
文章建议先回放历史对话并在 CI 中设置评测门禁,再用功能开关做影子测试或金丝雀发布,按用户意图比较上线前后的失败率。团队还应提前明确回滚条件和负责人,这套流程适用于提示词、模型、工具和检索变更。
AI 深度解读
改一行 prompt、换一个模型,或者更新检索和工具接口,面向客户的 AI Agent 可能照样返回 HTTP 200,却悄悄把退订流程答错。原作者建议把发布拆成五道检查,用真实会话回放、CI 门禁、灰度、线上评估和预先约定的回滚条件,分别拦住不同阶段的问题。
这套流程最值得拿走的是两件事。修复要拿旧版和新版逐条比,灰度要按用户意图看失败率。前者能看出修复有没有伤到原先正常的场景,后者能发现整体通过率盖住的局部退化。
回放为什么要同时收录失败和成功会话
回放是把脱敏后的历史会话交给旧版和候选版重跑,再逐条比较它们的回答和工具调用。作者建议从生产流量里选三类用例。第一类是已确认失败的会话,比如触发了规则、被用户投诉,或者需要客服接手。第二类是正常会话,尽量覆盖每种用户意图和工具。第三类是受政策约束的场景,比如退款、账户变更和医疗、法律、金融相关问题。
这三类用例各有任务。失败会话验证问题有没有修好,正常会话检查原先能走通的路径有没有被改坏,政策敏感用例检查新版有没有越过业务边界。比如改了退款提示词,历史投诉消失只是一个结果。还得回放原本能顺利完成的退款,检查新版是否把符合条件的请求也拒绝了。只看平均分,这两种变化可能互相抵消。
回放前要去掉个人信息,把退款、改账户等会改变真实状态的工具接到桩实现或沙箱。换模型时还要留意语气、拒答行为和工具调用格式,这些都可能随模型变化。工具替身应保留参数校验和关键返回结果,否则调用格式错了,这条回放也可能通过。
哪些评估失败应该拦住合并
作者建议把回放用例和手写用例编进测试套件,在涉及 prompt、模型配置或工具的 PR 上运行,让关键评估失败直接阻断合并。对检索更新也可以沿用这个做法,前提是测试确实用到了候选版的检索链路。
原文列了四种接法。开源的 Promptfoo 运行 promptfoo eval,只要至少一个测试失败,或通过率低于 PROMPTFOO_PASS_RATE_THRESHOLD,就返回退出码 100。通过率阈值默认是 100%,GitHub Actions 可接 promptfoo/promptfoo-action。同为开源的 DeepEval 用 deepeval test run test_llm_app.py 运行测试,指标低于阈值会让构建失败,标记 flaky=True 的用例则只告警。
LangSmith 提供 pytest 标记 @pytest.mark.langsmith,也支持 Vitest/Jest 集成。断言失败会让 CI 失败,结果同步到 LangSmith。Braintrust 的 braintrustdata/eval-action 会在 PR 上跑评估并发表评论。对 Braintrust,原文只交代了结果如何回到 PR,没给出阻断合并的配置。
灰度比例该由什么决定
原文把接触生产流量的方式分成三档。影子运行(shadow)把输入复制给候选版,记录它的回答,但用户继续看到旧版回答,候选版的副作用工具也会停用。它尤其适合换模型时先看输出差异。内部试用让员工或测试租户走新版。金丝雀发布(canary)则让少量真实用户接触新版,观察真实的后续对话和工具调用。
灰度范围要同时看风险和流量。作者举了两个很实际的例子。低频资金操作适合范围更小、周期更长的灰度,高流量 FAQ 则更容易收集到足够的会话。放量前要确认主要意图都积累了足以比较的样本。原文没有给出统一的样本数或灰度比例。
提示词和模型配置可以放在功能开关后面,回滚时切配置即可。原文以 LaunchDarkly 为例,它支持把这两类设置放在应用代码之外,按目标群体逐步放量。每条会话都要记录实际运行的版本,否则即使收到了投诉,也很难判断它来自哪一版。
线上按意图看失败率,回滚条件提前写
线上先按用户意图、规则和版本比较失败率。一个新模型可能更擅长回答账单问题,却在取消订阅时频繁出错。还可以观察用户改写问题、纠正回答、要求转人工的比例,以及工具调用报错、循环调用、成本和延迟。有些用户在触发明确的规则失败前,已经反复问了几遍。
作者建议上线前约定回滚条件,例如关键规则失败率超过发布前基线、主要意图的挫败率超过约定幅度,或确认一次严重事件,如错误退款或数据泄露。成本和延迟也可以设阈值。还要指定能直接执行回滚的人。评估结果由工程负责人签核,面向用户的行为由产品或客服负责人签核,涉及资金、受监管建议或个人数据时再请相关风险、法务或合规人员审查。签核记录和评估结果、放量计划一起留在 PR。
原作者是 Agnost AI 的开发方。据原文,Agnost AI 会在会话空闲 15 分钟后批量评估全部会话,按自然语言规则给每条助手消息判定通过或失败,并可通过 Slack 或邮件告警。接入 Auto Improve 后,告警可触发修复 PR,附上受影响会话的回放结果供人工审查,合并后还会复查告警是否好转。它没有离线数据集、实验或 CI 门禁功能。批量评估适合发现上线后的退化,退款权限等硬性边界仍要在应用代码里执行。
原文列出的价格是 Free 每月含 1,000 个事件,Starter 每月 $49,Pro 每月 $499,Enterprise 定制报价,包含自托管 VPC 部署和审计日志。作者称其他工具的信息来自各自文档,查阅日期为 2026 年 11 月 18 日。
我的判断
最扎实的部分是把线上失败补进回归集,再给它配上原先正常的用例。手工试几句适合探索新问题,固定回放才能让同一个事故在后续 PR 上反复接受检查。原文把 2025 年少量手测到 2026 年企业要求更多评估描述为行业变化,但没有给出调查或采用率数据。它也没展示灰度前后的失败率、回放发现了多少问题,或者不同评估工具的对照结果。这是一份发布经验清单,其中关于 Agnost AI 最适合生产评估的判断来自厂商自身。
实际使用里,版本标签只能说明会话跑在哪一版。若新版灰度专挑低风险租户,旧版接的却是全量用户,即便按意图拆开,失败率也可能受到用户构成影响。同一灰度期间用可比的旧版流量作对照,会比直接拿上线前一周的总分更容易判断变化来自哪里。低流量团队如果等不到足够样本,应该把这份不确定性留在放量决定里,严重事件则按事先约好的条件处理。
能拿来做什么
- 给 Node Agent 的工具层接一个回放用的替身。复现历史退款时,让替身校验参数并记录调用,把对真实订单的写入留在生产路径。
- 把一次真实故障和同意图下原本正常的会话一起加进 CI。比如 Agent 错误拒绝了符合条件的退款,就同时检查该退款能走通,以及不符合条件的请求仍会被拒绝。
- 给 prompt、模型和工具配置记录实际生效的版本。灰度报表按版本和意图展开,先看关键规则的失败会话,再决定是否扩大范围。
- 在发布 PR 里写清哪个指标越线就切回旧配置、哪类确认事件可以立即触发回滚,以及谁有权执行。