把大模型线上故障变成 CI 回归用例
CI 用固定样本拦截已知回归,生产评估从真实流量中发现新意图、行为漂移和多轮对话故障。文章给出 GitHub Actions 评估门禁示例,并建议把确认后的线上失败加入回归集。
原文暂未完整获取,基于公开信息的快读
dev.to 上的一篇文章提出,把大模型应用中已确认的线上故障变成 CI 回归用例。持续集成(CI)用固定样本拦截已知问题,生产评估从真实流量里发现测试集没覆盖的请求、行为漂移和多轮对话故障。作者还给出了一个用 Promptfoo 在 GitHub Actions 里跑评估的示例。
目前能确认什么
CI 评估可以在同一批输入上比较提示词或模型变更前后的表现。必填字段、输出格式和工具调用参数可以直接写断言。生产评估看的是真实请求或整段对话,能发现用户聊到后面才出现的答错、循环,也能发现检索资料或工具响应变化引起的漂移,即使应用代码没改。
作者建议,确认一次线上故障后,保存当时的对话、提示词版本、工具响应和检索结果,固定测试输入,用模拟响应替代有副作用的工具调用,再把预期行为写成断言或评分规则。
按作者对各家文档的归类,Braintrust、LangSmith、Langfuse、Arize AX、Opik 和 Confident AI 都覆盖 CI 和生产评估。Promptfoo、DeepEval 和 Ragas 覆盖 CI 和离线评估。Agnost AI 只覆盖生产评估,由作者团队开发。
我的判断
最值得借鉴的是让修复 PR 先过一条能复现故障的用例。比如客服助手聊到第三轮才错误承诺退款,就保留前两轮和当时查到的退款政策,再断言第三轮回复不能作出该承诺。只测最后一句,可能连触发故障的上下文都丢了。
节选里的 GitHub Actions 示例只在提示词或评估配置文件变更时触发。如果模型、检索或工具配置放在其他路径,改了也可能跳过评估。评估失败能否阻止合并,还要看仓库有没有把这个检查设为必需。各工具如何采样、能否按整段对话评分,节选没有逐一说明,要等完整原文或各家文档确认。