提出用「厨房管理员」模式替代被动提示词——构建有记忆、有异常处理能力的 AI 循环系统,使 Agent 在真实环境中稳定运行而非频繁幻觉。
还记得当初所有人都说「提示词工程」是你唯一需要的技术技能吗?有段时间我们信了。如果 AI 给了一个糟糕的回答,我们的本能反应就是重写提示词。
这很快,是反应式的思维——心理学家称之为系统 1 思维。我们把 AI 当成一个神奇的文本框:只要找到完美的魔法词汇,它就会按我们的想法行事。
但当人们开始构建真实的、自动化 AI 助手——比如客服机器人或数据分析工具——他们意识到一件令人沮丧的事。如果你把这个「魔法文本框」放到现实世界中,它就会出问题。数据库加载太慢,AI 幻觉出一个假答案,整个系统就崩溃了。
解决方案不是写一个更好的提示词。解决方案是循环工程(Loop Engineering)。
听起来像是沉重的计算机科学,但实际上是一个非常简单的概念。
想象你雇了一位才华横溢的世界级大厨(就是 AI)。他什么都会做。
提示词工程就是递给大厨一份食谱然后走开。但如果厨房的盐用完了怎么办?如果烤箱坏了怎么办?如果大厨没有处理这些问题的指令,他就会慌张,把整顿饭毁掉。
循环工程是构建一个厨房管理员与大厨并肩工作。
不是简单地给出一条指令然后期待最好的结果,系统在一个持续的、被管理的循环(一个 loop)中运行:
Act:AI 尝试完成一个小步骤。
Observe:系统查看 AI 刚才做了什么。
Verify:一个严格的规则检查动作是否正确。
Retry or Stop:如果错了,系统告诉 AI 再试一次。如果对了,就进入下一步。
当你构建一个循环时,你必须围绕 AI 编写传统的、无聊的、可预测的规则。开发者称之为「挽具」(Harness)。
挽具不需要人工智能。它需要的是常识。它回答的问题比如:
现代技术的残酷真相是:AI 模型本身可能只占魔力的 5%。另外 95% 是挽具——你在它周围构建的防弹环境。
循环工程有一个大陷阱:记忆。
如果你的 AI 工作了 20 分钟,它会收集大量信息。如果你把所有这些数据都丢到 AI 的「桌面上」,它就会不堪重负、陷入混乱。(开发者称之为「上下文腐烂」context rot)。
一个好的循环会不断清理工作空间。它总结过去的步骤、删除无用的信息,确保 AI 只看到当前任务所需的内容。
我们正式从「与机器对话」的时代进入「构建机器」的时代。
你不仅仅想要一个能写出聪明句子的 AI。你想要一个能自我检查工作、从错误中恢复、知道任务何时完成的系统。这就是循环工程的力量。