生产级 AI Agent 开发：比 Prompt 更重要的 7 个架构层

让 AI 智能体跑起来演示，已经不是什么难事了。

真正考验工程能力的是生产环境。

如果一个智能体能与业务系统交互，我会在无休止地优化 prompt 之前，先设计好这七个层次。

权限边界

只给智能体提供完成特定工作所需的工具和数据。

读取发票和审批付款是完全不同的权限级别。

系统需要知道已经发生了什么

否则重试可能会发送重复邮件、创建重复记录或重复执行操作。

确定性验证

重要的业务规则应该写在应用逻辑里。

不要让一个 LLM 去验证另一个 LLM 作出的每个决策。

工具失败处理

智能体需要有可预测的错误状态。

追踪工具调用、延迟、成本、失败、重试和结果。

没有这些数据，调试就变成猜谜。

低置信度、高价值或不可逆的操作应该能够暂停等待审批。

创建可重复的测试场景

在修改 prompt、工具或模型之前，先建立可重复的测试场景。

否则改进就只能靠 anecdotes。

Disclosure：我在 Inument 工作，AI 和软件系统是我们工程工作的一部分。一个反复验证的教训是，模型本身往往只占生产可靠性的很小一部分。

最强大的智能体架构不是拥有最多自主权的那个，而是对自主权进行了有意控制的那个。

让你的智能体从演示到生产环境，最难的部分是什么？