按可撤销性和可见范围设计智能体审批
文章建议用操作能否撤销、结果会被谁看到两个维度决定审批位置。涉及客户的敏感操作应在执行前暂停,由指定人员确认后再继续。
AI 深度解读
客户上周已经付款,AI 却发出了催款邮件。有人发现错误时,邮件已经到了客户手里,补发一封说明也收不回第一次印象。作者把会计和律所使用 AI agent 的问题落到了一个具体的工程决策上:审批应该卡在哪一步?
他们团队的做法是按动作的受众和可撤销性分级,让内部草稿继续自动跑,把审批放在对外发送和不可逆操作的执行前。做 AI 工作流的前端和全栈开发者,可以直接借鉴两件事:服务端怎么拦,审批页该给人看什么。
哪些动作需要在执行前卡住?
作者用两个问题给动作分级:谁会看到结果?做完以后能撤回吗?内部会议摘要可以删,默认自动执行并留日志。内部动作如果撤销起来麻烦,可以先执行,同时发通知,留一个短撤销窗口。面向客户的动作,每次发送前都要审批。付款指令、申报、截止日期变更和权限变更也要审批,由对结果负责的角色来签。
可撤销性得算上客户已经看到内容的后果。账单发错后,系统可以补发正确版本,客户却可能已经开始核对金额,甚至已经按错的金额走了内部流程。作者把这种情况也按不可逆处理。
下面的 YAML 展示了怎样把审批人、审核材料和业务拦截条件写进一份可版本化的配置。
policy:
internal_meeting_summary:
requires_approval: false
log: true
client_email_send:
requires_approval: true
approver: engagement_partner
show: [draft, source_data, recipients]
payment_reminder:
requires_approval: true
approver: billing_lead
block_if: invoice_status == paid
filing_deadline_change:
requires_approval: true
approvers_all_of: [engagement_partner, compliance]
payment_instruction:
requires_approval: true
approvers_all_of: [partner, second_partner] # two different people
先看 block_if: invoice_status == paid 这一行。发票已付款时,规则直接拦住催款动作。再看最后一行,付款指令需要两个不同的人批准,落到实现里就得校验审批人的身份。作者主张把这些规则放在业务负责人能查看和修改的配置里,保留版本和变更记录,事后才能查清某次动作走的是哪一版规则。
审批页怎样让人有条件做判断?
待办里积了 30 条,每条都摆着一个绿色按钮,审核人很容易一路点过去。作者要求把三样东西放到同一屏:即将发出的内容、生成内容用到的源数据,以及批准之后具体会发生什么。审催款邮件时,草稿旁边就应该显示发票状态。涉及定时发送时,页面直接写清楚附件是什么、会发给哪 3 位收件人,以及发送时间是次日上午 9 点。
审核人发现一句话写错,应该能就地改完再批准。系统把修改后的发出版本存下来,同时记录谁批准、何时批准、当时看到了什么。一条请求如果还要开会才能决定,作者会先把请求改到足够明确,目标是让忙碌的审核人在 1 分钟内判断。
批量审核也要保留异常的优先级。把 20 份草稿放在一屏能减少打断,草稿和源数据冲突的条目应排在最前面。审核人一打开队列,就能先看到真正需要花时间的条目。
什么时候可以减少人工审批?
作者建议按动作类型分别看批准率和批准前的编辑率。频繁修改说明人工审核还在抓问题,可以顺着记录查草稿为什么总出错。某类动作几乎全过、很少被改,则可以评估改成短撤销窗口或抽样复核。按类型看很重要,内部摘要的通过率再高,也说明不了客户邮件审得怎么样。
低编辑率有两种解释:草稿确实稳定,或者审核人已经习惯直接点通过。作者建议回看那些本应仔细核对却很快获批的条目。模板、申报规则或计费流程一变,也要重新检查原来的审批边界。上季度可以自动发送的内容,换了规则以后可能就需要人工过目。
我的判断
我认同把审批放进执行链路。系统提示词可以引导 agent 提交审批,发送邮件的服务仍需要自己校验有没有有效批准。配置的价值在于能查、能改、能追溯,真正起拦截作用的是执行端的校验。对于已付款这一类有明确业务条件的错误,确定性规则也比让人逐封比对更直接。
批量审核能省多少时间、1 分钟够不够,以及何时可以安全放宽,原文都没给对照数据。这些属于作者的经验之谈,批准率和编辑率也只能提供调查线索。另一个落地前提是审核人有权限看到可信的源数据,也有能力判断后果。比如审核之后、实际发送之前,客户刚好付了款。原文没有交代这个时间差怎么处理,做异步发送时需要在执行前重新校验发票状态。
能拿来做什么
- 给现有 agent 的动作列一张表,逐项写清谁能看到结果、能否撤销、谁负责批准。可以先从内部摘要和客户邮件这两类动作接入,分别实现留日志和发送前审批。
- 做审批页时,把草稿、发票状态、收件人和发送时间放到一屏,允许审核人直接改稿,并把实际发出的版本与审批记录关联起来。
- 在 Node 的发送任务里校验批准记录是否对应本次发送的内容,并在执行前重查
invoice_status。草稿换了版本就重新审批,发票已经付款就停止催款。 - 按动作类型统计批准率和批准前编辑率,回看关键条目里的异常快速审批,再决定某类动作是否适合抽样或短时撤销。