把智能体禁令变成工具权限与执行约束
作者用输入、步骤、输出、完成条件、风险和禁令六项描述重复任务,再映射为工具、评测和预算限制。研究智能体另维护已抓取页面台账,拒绝保存引用未抓取页面的简报,并用小样本评测辅助模型选型。
AI 深度解读
给 Agent 写一长串「绝对不要做什么」,未必比少给它几个工具更可靠。作者的主张是:先把一项固定任务写清楚,再围绕它搭建执行程序,让步骤变成工具、验收条件变成测试、风险变成硬限制。
这套做法适合反复运行的工作流。原文最值得借鉴的,是研究 Agent 如何校验引用来源,以及怎样用小规模评测决定日常任务该用哪个模型。
先写清一项任务,再决定给 Agent 什么工具
很多教程先搭一个通用 Agent,再不断添加工具。作者选择反过来:把每周要做的那件事写在一张任务卡上,卡片只包含六项:
- 输入:任务从哪些材料开始。
- 步骤:需要依次完成哪些动作。
- 输出:最后应交付什么。
- 完成条件:什么结果才算通过。
- 风险:执行过程中需要控制什么。
- 禁止事项:哪些行为不应发生。
这张卡不是提示词模板,而是执行程序的设计依据。原文把这层程序称为 harness,可以理解为包在模型外面、负责提供工具和限制执行的代码。
步骤里的每个动作,对应一个工具;完成条件,对应评测套件;风险,对应每轮搜索次数、最大执行步数和 token 预算。原文没有给出这些上限的具体数值。
禁止事项则决定哪些能力根本不提供。例如,不给 shell 工具,把写入范围限制在一个文件夹内。
能通过工具权限排除的行为,就不要只靠提示词禁止。
这里也要区分两件事:不提供 shell,是直接减少能力;只允许写入指定文件夹,则需要写入工具真正检查路径。把限制写在卡片上,还不算落地。
为什么「引用过这个网址」还不够
作者认为,研究 Agent 最关键的一个细节是:模型可能生成一个看起来合理、实际却从未抓取过的 URL。
因此,执行程序要自己维护一份页面抓取台账。只有真正获取过的页面才能进入台账,搜索结果里的摘要不算。保存简报时,再检查引用地址;只要引用了台账之外的页面,就拒绝保存。
这相当于给输出增加了一道可执行的验收门槛。模型声称自己查过资料,不作为通过依据。
不过,这条规则验证的是「页面是否抓取过」,还没有验证「页面内容是否支持结论」。即使引用地址合法,模型仍可能误读材料,或用一段无关内容支撑判断。原文没有说明是否进一步检查了引用与结论之间的对应关系。
小模型能不能用,要看具体任务的评测
作者给出的实测结果是:
| 模型 | 通过情况 | 每套评测费用 |
|---|---|---|
| Haiku 5.5 | 12 次运行全部通过 | 约 $0.43 |
| Sonnet 5.5 | 6 次运行全部通过 | 约 $2.54 |
基于这些结果,作者把 Haiku 作为常规研究任务的默认模型。他也承认,样本很小。
这些数字支持的是:在作者这套任务和验收标准下,Haiku 5.5 已经够用,而且费用更低。它们不足以证明两个模型能力相同。原文没有交代评测题目、难度和通过标准,两个模型的运行次数也不同。
作者提到,完整实现约为 250 行 Python,使用 Claude API,没有使用框架。原文只提供了实现规模,没有展示代码,因此无法据此判断具体工程细节。
我的判断
我赞同把任务边界落实到工具和验收代码里。对于固定工作流,这比不断补充提示词更容易检查:工具有没有越权、输出有没有达标、执行有没有超限,都可以逐项核对。
但「禁止事项就是缺失的工具」只覆盖了部分风险。没有 shell 可以减少命令执行风险,却不能阻止模型写出错误结论;限制写入目录,也不能保证目录内的内容正确。权限约束和内容验收需要一起做。
作者关于重复任务适合专用执行程序的判断合理,但没有提供与通用 Agent 的对照数据,仍属于经验之谈。他给出的取舍也很务实:如果一个流程只会跑两次,使用通用 Agent 可能更省时间。
能拿来做什么
- 为反复执行的技术资料整理任务写一张六项任务卡,先明确输入、输出和完成条件,再决定是否值得开发专用 Agent。
- 如果用 Node 封装研究 Agent,可以让抓取工具记录实际获取过的 URL,并在保存简报时检查引用;搜索摘要不能直接获得引用资格。
- 给固定工作流设置搜索次数、执行步数和 token 预算上限,再用自己的评测比较模型费用,不直接照搬作者的模型选择。