AI 回归测试应验证属性而非固定答案
面对存在多种正确表达的模型输出,文章建议用依据充分性、指令遵循、范围约束与安全性等属性替代字符串精确匹配。可机械判断的项目用代码检查,其余采用评分规则或模型裁判,并在提示词、模型及依赖变更后运行评测集。
AI 深度解读
AI 回答明明正确,测试却因为措辞不同而失败,这种断言很难替产品守住质量。原文给出的办法是:把「必须和标准答案一样」改成「必须满足哪些条件」,再用一组固定案例检查每次改动有没有让系统退步。
它整理了 Chain of Thought 两期访谈中的建议:第 37 期,2025 年 8 月,嘉宾是 Parlance Labs 创始人 Hamel Husain;第 18 期,2025 年 4 月,嘉宾是 Honeycomb 联合创始人兼 CTO Charity Majors。最有用的部分,是把失败分析、评测集和发布检查串成了一条能执行的流程。
正确答案有很多种,测试到底该断言什么
传统单元测试常用相等断言:输入确定,输出就该等于某个值。但模型可能用不同句子表达同一个正确结论。如果测试只接受一条预存的标准字符串,也就是 golden string,就会把合理回答判成错误。
AI 回答的测试,应该先写清必须满足的条件,再决定怎么判分。
原文建议检查四类属性:回答是否有给定资料支撑,是否遵循指令,是否超出任务范围,以及是否避开了不安全的回答。这里的「属性」可以理解成验收条件,不是要求某句话必须怎么写。
其中一些条件可以直接用代码检查,例如返回结果必须包含指定来源 ID、不能出现某个短语、不能超过字数限制。另一些条件需要评分规则,也就是 rubric,或者由另一个模型担任评审,即 LLM judge。
两者的边界要分清。返回了正确的来源 ID,只能证明这个字段存在,不能证明来源真的支持回答中的结论。后者需要检查资料与回答之间的关系。
Hamel 对通用的幻觉分数、毒性分数、简洁度分数持怀疑态度,理由是它们未必对应产品里的真实失败。对一个资料问答功能而言,「内容简洁,但把适用条件说反了」,照样是严重错误。仪表盘上的分数再漂亮,也不能替代这条具体检查。
第一批案例,应该从真实失败里找
原文不建议先定一个覆盖率指标,再为凑数量编案例。Hamel 推荐的是错误分析:打开调用轨迹查看器,逐条阅读输入、输出和执行过程,记录哪里出错,然后归类、计数,优先处理频繁出现的问题。
起步建议是至少看 100 条轨迹。之后继续到看不到新问题,这个停止条件被称为「理论饱和」(theoretical saturation)。它表达的是:继续阅读带来的新信息已经很少,而不是读满 100 条就算评测建设完成。
这些记录决定了测试该写什么。假如失败集中在「引用了资料,却漏掉限制条件」,测试就应该围绕条件是否保留来设计,而不是只补一个来源字段检查。
评判标准还需要领域专家参与。Hamel 认为,除非产品本身是开发者工具、开发者就是领域专家,否则把评测全部交给开发者,很容易变成猜测。面向律师的产品,就应该让律师参与判断。
LLM judge 也不能跳过这一步。原文要求先拿人工标注与模型判定对照,再允许它阻断发布。如果同一个案例跑几次,裁判自己都给出不同结论,应先阅读争议案例,弄清问题出在哪里,再考虑调整阈值。
一个频繁误报的发布检查,最终很容易被团队忽略。
把评测接进构建,先跑便宜的检查
原文给出的发布流程很直接:把案例和经过审核的基准通过率一起放进仓库;每次修改 prompt、更换模型或升级依赖,都重跑评测;新通过率低于基准就让构建失败,同时打印失败案例 ID。
下面这段 Python 示例把机械检查、模型评审和基准比较放在了一起:
import json
from pathlib import Path
def test_eval_pass_rate():
cases = json.loads(Path("eval_cases.json").read_text())
baseline = json.loads(Path("eval_baseline.json").read_text())["pass_rate"]
assert cases, "Evaluation dataset must not be empty"
failed = []
for case in cases:
reply = call_model(case["prompt"], case["source"])
text = reply["text"]
cheap_ok = (
case["required_source_id"] in reply["source_ids"]
and case["forbidden_phrase"].lower() not in text.lower()
and len(text.split()) <= case["max_words"]
)
if not (cheap_ok and judge_against_rubric(case["source"], text, case["rubric"])):
failed.append(case["id"])
pass_rate = (len(cases) - len(failed)) / len(cases)
assert pass_rate >= baseline, f"Pass rate dropped: {pass_rate}, failed: {failed}"
要看的是 cheap_ok and judge_against_rubric(...) 这一行:利用短路求值,只有便宜的检查通过,才调用裁判。禁用短语用字符串检查就够了,没有必要再付出模型调用成本。
这只是待适配的示意代码。call_model 和 judge_against_rubric 没有提供实现,裁判提示词、重试策略也没说清。len(text.split()) 只是粗略数词,原文也明确提醒:如果长度限制具有严格产品含义,就得换更严格的算法。中文内容尤其不能直接把它当作字数统计。
上线后的失败则要回流。Charity 强调,理解系统不能只靠编辑器里的测试,也不能始终指望找到改代码的人来解释。生成代码增多之后,团队可能没有那个熟悉实现的专家。故障触达用户时,应记录系统实际收到什么、返回什么,再补上本应拦住它的案例。
她估计,十句话里有九句可以把 AI 换成 automation,讨论仍然成立;访谈中指出的例外是非确定性。这也解释了为什么生产观测仍然重要,而评测又需要适应模型输出的波动。
我的判断
我认同原文对测试目标的调整:允许合理的表达变化,同时把产品真正关心的约束写得更具体。它与传统单元测试可以配合使用。确定的业务计算继续做相等断言,自由文本回答则检查资料支撑、范围和指令遵循。
但这篇没有给出采用方案前后的对照数据,也没有报告裁判与人工标注的一致率。至少 100 条轨迹是专家提供的起步建议,不能当作适用于所有产品的样本量结论。
只比较总通过率也有局限。新版本可能修好几个普通案例,同时弄坏一个关键案例,总分仍然达标。因此,原文的基准门槛适合做起点;对关键业务,还需要单独规定哪些失败不能接受。这是站内建议,原文没有展示对应实现。
另外,代码优先的顺序很合理,但前提是机械条件确实属于硬性要求。条件写错了,后面的裁判再聪明也没有机会纠正。评测规则本身同样需要审核。
能拿来做什么
- 给前端或 Node 接入的资料问答功能整理首批评测集,先阅读至少 100 条真实调用轨迹,记录错误类别,再据此确定验收条件。
- 把返回字段、指定来源 ID、禁用短语和长度限制写成代码检查;把「来源是否支持结论」写成具体评分规则,并用人工标注校准裁判。
- 在 prompt、模型或依赖变更时重跑同一组案例,将审核后的基准通过率放进仓库,并让构建日志输出失败案例 ID。
- 每次线上回答出错,都保存足以复现问题的输入和输出,把它补成回归案例;遇到裁判反复改判,先检查争议内容和评分规则。