RAG 已死，被 Agents 和长上下文窗口取代

近年来大语言模型的能力在快速演进。最明显的变化是上下文窗口的爆炸性增长——从最初的几千tokens发展到如今的百万级别。与此同时，Agent技术（即模型能够自主调用工具、规划步骤、迭代执行）也变得越来越成熟。这两个趋势共同冲击了曾经的"银弹"方案——RAG（检索增强生成）。RAG最初设计用来通过外部知识库检索弥补模型知识库更新滞后、记忆容量有限等不足，但当上下文窗口足够大、Agent足够聪慧时，这套方案的必要性就被动摇了。

核心要点

• 长上下文窗口减弱了对分段检索的依赖，模型可以一次性处理海量信息
• Agent通过规划和工具调用实现更灵活的信息流，比被动的单轮检索更强大
• RAG的基础设施、成本、延迟等运维负担相比简化方案的收益在下降

对程序员的意义 如果你在规划AI系统架构，特别是需要在RAG、Agent、长上下文直接方案间做技术选型时，这个观点值得认真思考。盲目堆砌RAG可能浪费资源，评估业务场景的真实需求才是关键。