给 Agent 设计专用工具,把业务校验写进函数
文章建议用职责明确、参数类型严格的业务函数,替代任意 SQL 和通用 API 调用权限。模型负责选择调用时机,工具内部负责校验、安全约束和错误处理。
AI 深度解读
给 AI Agent 接上数据库、邮件和 CRM,它就能替你办事,也可能改错记录、给客户发错消息。这篇文章的结论很明确:可靠性不能只靠提示词,要靠工具本身限制 Agent 能做什么,以及什么情况下允许执行。
作者给出三层边界:单一用途的工具、严格的参数校验、高风险动作的人工审批。它适合拿来检查现有 Agent 的工具设计,但不是一份经过实验验证的效果报告,文中的效率数字也需要打个问号。
工具应该表达业务动作,而不是开放底层权限
原文反对让 Agent 直接编写数据库查询,或任意调用 API。原因不复杂:底层能力越通用,模型一次判断失误可能影响的范围就越大。
例如,修改用户订阅等级,不该暴露一个可以更新任意表、任意字段的通用工具,而应该提供 update_user_subscription,只接受 user_id 和 tier_name 这样的明确参数。
这不只是把函数名写得更具体。真正的变化,是把安全检查、校验逻辑和错误处理收进函数内部。Agent 负责判断何时调用,函数负责执行系统规则。
模型可以选择动作,但不能决定哪些规则可以绕过。
对程序员来说,这类似于让调用方使用业务服务接口,而不是直接操作数据库。业务函数把可执行范围固定下来,即使模型误解了需求,也只能在这条边界内尝试执行。
不过,原文没有给出函数实现,也没有说明用户身份和操作权限如何校验。函数名足够具体,只是设计的起点。
参数校验和人工审批,分别挡住哪类错误
第一类是输入不合法。
模型可能把整数传成字符串,也可能生成一个不存在的字段。作者建议,在任何自动动作执行前,用严格的类型校验检查参数;只要不符合 Schema(数据结构约束),立即拒绝,并返回清晰的错误。
这里的关键是「执行前」。等到数据库报错,甚至写入后才发现问题,已经失去了这层边界的作用。
错误信息也应该能指导下一步。例如,告诉 Agent:参数 tier_name 必须是 basic、pro、enterprise 之一。模型就有机会修正调用,而不是继续猜字段或重复提交。原文没有指定校验库,也没有提供重试次数、重试失败后的处理方式。
第二类是输入合法,但动作后果重大。
删除记录、退款、向大量用户群发消息,都可能通过参数校验,却仍然不适合直接执行。作者建议在调用这些敏感工具时暂停工作流:Agent 准备好待执行内容,通过消息应用或仪表盘通知人,由人点击批准或拒绝。
审批发生在准备完成之后、实际执行之前。人看到的是具体动作和数据,才能判断是否应该放行。
这两层不能相互替代。参数符合格式,不代表操作符合人的意图;有人点击批准,也不代表输入可以跳过校验。
我的判断
我赞同把约束放进工具实现,而不是只在提示词里写「请谨慎操作」。提示词可以帮助模型选对工具,代码里的检查才能真正拒绝不允许的调用。换一个更聪明的模型,也不能替代这层控制。
但严格 Schema 能解决的问题有边界。一个类型正确、确实存在的 user_id,仍可能指向错误的用户;合法的 tier_name,也可能不是用户想要的等级。格式正确和业务正确是两件事,后者需要结合权限、业务状态和用户意图判断。原文没有展开这些设计。
人工审批也有适用前提:审核者得看懂待执行内容,并有时间处理通知。原文没有讨论大量审批请求下的处理成本,因此不能直接推断它适合所有高频工作流。
作者称,这种做法能保留 AI 自动化 90% 的效率收益,同时让人掌控剩余 10%。文章没有给出测量口径、案例或对照数据,这只能视为经验性表达,不能当成收益承诺。
整篇文章更适合作为工具边界的设计原则,而不是完整的生产方案。它没有报告实测结果,也没有证明这些做法比其他方案提高了多少可靠性。
能拿来做什么
- 检查现有 Agent 的工具列表,把通用数据库更新、任意 API 请求等宽泛能力,改成用途明确的业务函数。修改订阅这样的操作,可以从
update_user_subscription入手。 - 在 Node 工具执行入口校验参数,明确
user_id的类型,以及tier_name允许的basic、pro、enterprise值;校验失败时返回具体原因,确保写操作尚未发生。 - 给删除、退款和群发操作增加执行前审批,在仪表盘展示 Agent 已准备好的具体内容,让审核者可以批准或拒绝。
- 排查 Agent 错误时,区分工具选择错误、参数不合法和业务意图判断错误,分别调整工具边界、校验规则与确认流程,避免把所有问题都归给模型能力。