长时间运行 Agent 的可靠执行方案

最初发布于 AI Tech Connect。

当请求—响应循环不再奏效时，大多数 Agent 教程采用的心智模型都借鉴自 Web 请求处理程序：一个请求到达，模型进行思考，调用一两个工具，返回响应，整个过程在四秒内结束。对于一轮聊天来说，这样做已经足够。但一旦任务真正变成长期运行的工作，这套模式就会失效：对两百个信息源进行全面调研；迁移一个需要改动九百个文件的代码库；批量处理一个季度的发票文档；或者每晚核对两套数据不一致的账本。

随之而来的问题通常有着可以预见的顺序。首先是超时。请求一旦运行超过网关的空闲时间限制，就会以 504 错误告终，而且不会留下任何有用的错误信息。这类限制通常在三十到六十秒之间——例如 AWS Application Load…

在 AI Tech Connect 上阅读全文 →

如需采取进一步措施，你可以考虑屏蔽此人和/或举报滥用行为。

这里是程序员彼此分享、了解最新动态并推动职业成长的社区。