用微软 Agent 框架拆分模型决策与执行
文章以 Microsoft Agent Framework 1.0 为例,介绍如何在 .NET 应用中把工具、编排、记忆和执行组织成独立组件。模型提出调用请求,应用负责校验参数和授权。
AI 深度解读
Agent 能回答问题,和 Agent 能替用户关工单、退款、触发部署,是两类工程问题。后者真正难的地方,是模型判断错了、重复调用了、读到恶意指令了,系统还能不能守住业务规则。
这篇围绕 Microsoft Agent Framework 1.0 的文章,给出的结论很明确:先设计执行边界,再接入模型。它没有展开框架 API,而是讨论 .NET 团队如何安排工具、权限、状态和审批。对正在给现有业务接入 AI 的开发者,这套拆法比一个能跑通的演示更有参考价值。
Agent 可以提议,但谁有权执行要由系统决定
作者把能影响外部世界的 Agent 看作分布式系统中的一个组件:推理环节带有不确定性,执行边界则必须遵守明确规则。模型根据上下文生成一个看起来合理的动作,但业务系统需要回答的是:当前用户有权限吗,参数合法吗,操作是否已经完成过?
模型负责提出动作,应用负责判定动作能否发生。
原文用「关闭今天所有重复事件」说明这种分工。Agent 可以寻找疑似重复项,却不应该拿到通用的 ExecuteSql 工具。更合适的能力是 FindPotentialDuplicates,然后经过审核,对指定事件 ID 和解决代码调用 CloseIncident。
这里的差别不只是工具名称更易读。通用数据库或 Shell 能力把大量决策空间交给了模型;业务动作则能把权限、参数范围和副作用限制在应用代码中。即使模型受到了提示注入,执行层仍有机会拒绝越界请求。
作者给出的接口,把查询与申请关闭拆开,并保留调用者身份:
public interface IIncidentOperations
{
Task<IReadOnlyList<IncidentCandidate>> FindPotentialDuplicatesAsync(
DuplicateSearchRequest request,
CancellationToken cancellationToken);
Task<IncidentCloseResult> RequestClosureAsync(
IncidentClosureRequest request,
UserContext user,
CancellationToken cancellationToken);
}
要看的是 RequestClosureAsync 中的 UserContext user:用户身份必须穿过模型交互,抵达下游服务。Agent 代用户办事时,不能悄悄换成权限宽泛的服务账号。
这段是应用接口示例,并不是 Microsoft Agent Framework 1.0 的工具注册代码。作者的意思是,接入模型之后,现有 .NET 的依赖注入、校验、日志和数据访问仍然可以沿用。
工具描述也是接口契约,模糊参数会扩大风险
对传统调用方,接口文档帮助开发者理解能力;对 Agent,工具名称、描述和 schema 会直接影响它选什么工具、何时调用,以及生成什么参数。
因此,工具契约至少要交代清楚四件事:执行什么、需要什么输入、明确不做什么,以及遇到歧义或危险请求时如何处理。
例如 CreateRefundRequest 应当声明自己只创建待审批的退款申请,不直接转账。参数使用 orderId、amount、currency、reason 这样的明确字段,并在发生外部操作前,拒绝不支持的币种和超过允许阈值的金额。
作者反对在有类型化替代方案时,仍使用 instructions、rawQuery、options 这类宽泛字符串。问题不是字符串天然不安全,而是这些字段容易把「业务参数」变成另一条指令通道,让不可信文本参与敏感决策。
当 Agent 读取邮件、网页、文档或工单时,这个问题尤其突出。检索内容可能夹带操纵模型的指令。提示词可以要求模型把这些内容当作数据,但作者强调,提示词不能独自承担安全控制。
工具描述帮助模型选对动作;真正约束动作的,仍是服务端校验和授权。描述写着「需要审批」,执行代码却允许直接退款,边界就没有建立起来。
聊天记忆不能充当业务账本,失败恢复要靠持久状态
作者将 Agent 的记忆分成两类。会话状态保存消息、摘要和当前上下文,帮助模型继续交流;操作状态保存审批结果、工作流阶段、外部操作 ID、重试次数和时间戳,帮助系统判断事实。
「用户想退订单 4812」可以写进聊天摘要。但退款申请 rf_91c 由用户 u_203 提交、经理 u_018 批准、尚未执行,应当成为数据库中的业务记录,由正常的事务逻辑更新。
聊天摘要帮助模型理解情况,业务记录决定系统接下来能做什么。
这个区分直接关系到恢复能力。模型调用中途失败后,系统应该读取权威记录,确认已经完成哪些步骤,而不是让模型根据聊天历史猜测。
对不可逆操作,作者建议采用提议、校验、批准、执行的协议:
Agent proposes: Refund order 4812 for $89.00
System validates: Order exists, amount is eligible, user is authorized
Policy decides: Manager approval required above $50
Human approves: Approval recorded with timestamp and identity
Service executes: Payment provider called with an idempotency key
这里要盯住最后一行的 idempotency key。模型可能重试,工作流可能恢复,用户也可能重复提交。执行服务必须能识别同一次操作,避免重复产生副作用。示例中的 $89.00 和超过 $50 需要经理批准,是说明流程的业务设定,不是框架默认规则。
执行之后,还要能解释发生了什么。原文要求记录模型与 Agent 配置版本、关联 ID、认证用户、脱敏后的工具参数、策略与审批结果、调用耗时、可获得的 token 和费用估算,以及失败类别和重试历史。共享的 trace ID 用来串起 ASP.NET 入口、Agent、队列、数据库和外部服务。
但可观测性不等于完整保存所有输入输出。提示词和工具结果可能含客户资料或凭证,日志也需要脱敏和保留策略。
测试同样应围绕这些边界展开:面对歧义请求、畸形参数、恶意文档、无权限用户、重复提交和依赖故障,断言应该是「没有调用工具」「要求审批」「返回幂等结果」或「进入可恢复状态」。模型表现则通过评估集检查,不必执着于唯一标准回复。提示词和工具描述变更,也要做回归验证。
我的判断
我赞同作者把注意力放在工具与执行边界上。对于已有业务系统,Agent 最适合接入经过约束的应用能力。普通页面按钮不能绕过权限,模型发起同一个动作也不该获得例外。
不过,这篇更接近架构经验文章。作者没有提供上线案例、实验过程、故障率或对照数据,也没有展示 Microsoft Agent Framework 1.0 如何注册工具、持久化工作流、接入追踪。因此,它能支持「应该如何分工」的讨论,不能据此证明这个框架比其他编排方案更可靠,或者已经替应用解决了这些问题。
与让模型直接访问数据库、任意 HTTP 或 Shell 相比,窄工具更容易审计和限制权限,代价是需要设计业务接口。与固定工作流相比,Agent 的价值在于理解开放式意图、识别候选项、补齐缺失信息;如果输入和路径都很固定,普通表单加工作流可能已经够用。
另外,类型化工具只能缩小风险范围。amount 是合法数字,不代表金额合理;orderId 格式正确,也不代表用户拥有该订单。权限、业务校验、审批和幂等仍要分别落实。
能拿来做什么
- 给现有 .NET 或 Node 服务接入 Agent 时,先列业务动作及其副作用,再设计工具。把「查找候选项」「提交申请」「执行操作」拆清楚,并确保服务端能拿到真实用户身份。
- 做前端审批界面时,让页面展示结构化提案和业务校验结果。审批状态从业务接口读取,不能仅凭聊天回复中的「已批准」推进流程。
- 给退款、关单、部署等操作补齐持久状态和幂等机制。恢复流程前先查询执行记录,明确哪些步骤完成、哪些步骤允许重试。
- 将提示词和工具描述纳入版本管理,用歧义输入、恶意检索内容、越权及重复提交做回归,重点检查系统最终执行了什么。