基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
8.0
热点
AI SCORE
技术实践2026-11-21 16:58

把智能体禁令变成工具权限与执行约束

dev.to · AI#Agent#权限控制#评测
Editor brief · 编辑速览

作者用输入、步骤、输出、完成条件、风险和禁令六项描述重复任务,再映射为工具、评测和预算限制。研究智能体另维护已抓取页面台账,拒绝保存引用未抓取页面的简报,并用小样本评测辅助模型选型。

文章思维导图
Knowledge map
拖拽缩放
AI deep read

AI 深度解读

给 Agent 写一长串「绝对不要做什么」,未必比少给它几个工具更可靠。作者的主张是:先把一项固定任务写清楚,再围绕它搭建执行程序,让步骤变成工具、验收条件变成测试、风险变成硬限制。

这套做法适合反复运行的工作流。原文最值得借鉴的,是研究 Agent 如何校验引用来源,以及怎样用小规模评测决定日常任务该用哪个模型。

先写清一项任务,再决定给 Agent 什么工具

很多教程先搭一个通用 Agent,再不断添加工具。作者选择反过来:把每周要做的那件事写在一张任务卡上,卡片只包含六项:

  • 输入:任务从哪些材料开始。
  • 步骤:需要依次完成哪些动作。
  • 输出:最后应交付什么。
  • 完成条件:什么结果才算通过。
  • 风险:执行过程中需要控制什么。
  • 禁止事项:哪些行为不应发生。

这张卡不是提示词模板,而是执行程序的设计依据。原文把这层程序称为 harness,可以理解为包在模型外面、负责提供工具和限制执行的代码。

步骤里的每个动作,对应一个工具;完成条件,对应评测套件;风险,对应每轮搜索次数、最大执行步数和 token 预算。原文没有给出这些上限的具体数值。

禁止事项则决定哪些能力根本不提供。例如,不给 shell 工具,把写入范围限制在一个文件夹内。

能通过工具权限排除的行为,就不要只靠提示词禁止。

这里也要区分两件事:不提供 shell,是直接减少能力;只允许写入指定文件夹,则需要写入工具真正检查路径。把限制写在卡片上,还不算落地。

为什么「引用过这个网址」还不够

作者认为,研究 Agent 最关键的一个细节是:模型可能生成一个看起来合理、实际却从未抓取过的 URL。

因此,执行程序要自己维护一份页面抓取台账。只有真正获取过的页面才能进入台账,搜索结果里的摘要不算。保存简报时,再检查引用地址;只要引用了台账之外的页面,就拒绝保存。

这相当于给输出增加了一道可执行的验收门槛。模型声称自己查过资料,不作为通过依据。

不过,这条规则验证的是「页面是否抓取过」,还没有验证「页面内容是否支持结论」。即使引用地址合法,模型仍可能误读材料,或用一段无关内容支撑判断。原文没有说明是否进一步检查了引用与结论之间的对应关系。

小模型能不能用,要看具体任务的评测

作者给出的实测结果是:

模型 通过情况 每套评测费用
Haiku 5.5 12 次运行全部通过 约 $0.43
Sonnet 5.5 6 次运行全部通过 约 $2.54

基于这些结果,作者把 Haiku 作为常规研究任务的默认模型。他也承认,样本很小。

这些数字支持的是:在作者这套任务和验收标准下,Haiku 5.5 已经够用,而且费用更低。它们不足以证明两个模型能力相同。原文没有交代评测题目、难度和通过标准,两个模型的运行次数也不同。

作者提到,完整实现约为 250 行 Python,使用 Claude API,没有使用框架。原文只提供了实现规模,没有展示代码,因此无法据此判断具体工程细节。

我的判断

我赞同把任务边界落实到工具和验收代码里。对于固定工作流,这比不断补充提示词更容易检查:工具有没有越权、输出有没有达标、执行有没有超限,都可以逐项核对。

但「禁止事项就是缺失的工具」只覆盖了部分风险。没有 shell 可以减少命令执行风险,却不能阻止模型写出错误结论;限制写入目录,也不能保证目录内的内容正确。权限约束和内容验收需要一起做。

作者关于重复任务适合专用执行程序的判断合理,但没有提供与通用 Agent 的对照数据,仍属于经验之谈。他给出的取舍也很务实:如果一个流程只会跑两次,使用通用 Agent 可能更省时间。

能拿来做什么

  • 为反复执行的技术资料整理任务写一张六项任务卡,先明确输入、输出和完成条件,再决定是否值得开发专用 Agent。
  • 如果用 Node 封装研究 Agent,可以让抓取工具记录实际获取过的 URL,并在保存简报时检查引用;搜索摘要不能直接获得引用资格。
  • 给固定工作流设置搜索次数、执行步数和 token 预算上限,再用自己的评测比较模型费用,不直接照搬作者的模型选择。
Original source

本文由 AI 通读原文后重新编写,观点部分为站内判断,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
Axion开源模型用三阶段训练挑战商业Agent
下一篇
LLM 流式请求为何突破了 30 秒超时

资讯速览

dev.to · AI · 2026-11-21 16:58

AI 评分 8.0 / 10

相关标签

#Agent#权限控制#评测

继续阅读

  • 扫描二十二万条 MCP 工具描述后的安全发现
  • Axion开源模型用三阶段训练挑战商业Agent
  • LLM 流式请求为何突破了 30 秒超时
  • Graphicle 为编程智能体提供可失效的记忆
  • 让 AI 安全审查先证明攻击路径