异常检测设计：队列优于仪表板

自然语言数据库工作流不应该产出一个更冗长的 dashboard。

它应该产出一个规模受控的审核队列。

这意味着每个异常都需要包含：

• 已批准的规则和指标版本
• 可信的租户、环境和时间范围
• 观测值、基线和阈值
• 数据源的新鲜度和筛选条件
• 稳定的异常标识
• 可供其他审核人员验证的追踪记录

异常检测与解释也应该相互分离。

第一次查询负责找出一组规模受控的候选项，第二次查询则用于解释其中一个选定的候选项。这样可以避免把所有细节都关联到每条告警中，同时支持渐进式披露。

此外，还要将审核与操作分开。

发现失败的任务、存在风险的续约或异常订单后，不应自动更新状态、发送消息或重试工作流。这些操作应该由独立的工具完成，并在每次执行时重新授权，同时提供预览、验证、幂等性保障，并在需要时进行审批。

实际的检验方法很简单：连续运行两次相同的检测。如果队列无法识别未发生变化的异常状态，反而创建了重复告警，那它就还不具备可用于实际运营的身份标识机制。

完整指南：自然语言 SQL 异常报告

如需采取进一步措施，你可以考虑屏蔽此人和／或举报滥用行为。

我们是一个让程序员分享知识、了解最新动态并推动职业发展的社区。