按问题类型选择检索、图谱或微调
文章将普通 RAG 对应到资料查找,将 GraphRAG 对应到依赖关系等关联问题,将微调主要用于调整语气、格式和输出行为。选型建议从当前失败类型出发,而非默认采用热门方案。
AI 深度解读
给产品接上内部代码库、使用手册或产品规格,应该选 RAG、GraphRAG,还是微调?作者的答案是先看失败发生在哪一层:找不到资料,修检索;资料找到了却不按要求回答,修行为;问题依赖跨文档关系,再考虑图。
这篇面向 2026 年的选型指南,价值在于把三种方案的职责拆开。不过,它没有给出实际评测数据。读时可以拿走问题分类和评估方法,不能把其中的效果判断直接当成选型结论。
找不到答案,先看缺的是段落还是关系
普通 RAG,也就是检索增强生成,会把资料切成文本块,计算向量并建立索引。用户提问后,系统找出相近的文本块,放进提示词,让模型据此回答。
它适合「文档在哪里规定了这个配置」之类的问题。答案已经存在于某个段落里,系统的任务是把它找出来。资料更新时,检索系统也能更新对应内容,不必把新事实重新训练进模型。
作者把 RAG 称为成本较低、适用面较广的主力方案,但没有提供具体成本。
问题出在答案分散的时候。例如,某份文档介绍认证模块,另一份文档记录依赖它的组件。用户问「修改认证模块会影响哪些部分」,与问题文字最相近的段落,未必包含完整依赖链。模型拿到几个碎片,也可能缺少把它们串起来的依据。
GraphRAG 针对的就是这种关系问题:先从资料中抽取实体,以及「依赖」「替代」「破坏」等关系,构成图,再沿关系路径检索。大白话解释,就是除了记录每段资料说了什么,还记录资料里的对象如何相连。
需要检索关系链,才是考虑 GraphRAG 的理由。
代价也跟着增加。关系抽取通常需要调用 LLM,资料变化后还要维护图。原文没有交代抽取准确率、维护成本,也没有展示认证模块案例的实际运行结果,因此这个例子只能说明适用方向。
资料找对了却答得不对,才轮到微调吗
微调(fine-tuning)会更新模型权重。作者认为,它更适合调整语气、输出格式和固定表达习惯,例如始终使用列表,或者遵守某种回答风格。
这和知识检索处理的是两类问题。
如果模型没有拿到正确资料,训练它更稳定地输出列表,并不能补上缺失的事实。反过来,资料已经找对,回答却总是不符合产品要求,继续增加检索内容也未必有效。
作者尤其反对把微调当成事实仓库。事实进入权重后,会变成模型内部的数值表示,更新不方便,也难以像检索段落那样直接标明出处。对于频繁变化、需要追溯来源的知识,这个提醒很实用。
但「微调只改变行为」是作者用于选型的简化规则,不能理解成能力边界。原文没有比较微调学习领域知识的效果,也没有证明所有格式问题都需要训练。
更合理的阅读方式是:先把可检索的事实留在资料层,再判断行为问题是否值得通过微调解决。 如果提示词已经能稳定约束格式,就还没有足够理由增加训练和维护环节。
小评测集,比争论哪种方案先进更有用
原文最值得照做的部分,是先描述失败,再搭评测。
「没有找到正确段落」属于检索问题;「找到了依据,却按错格式回答」属于行为问题。两者表面上都叫回答不好,修复位置却不同。
作者建议,从产品真实会遇到的问题里挑一小组,为每题写出正确答案,再让普通 RAG、GraphRAG 和微调模型接受评估。至少检查两件事:有没有找到正确的支撑材料,最终回答是否正确。
这里还要分开看依据与答案。模型偶然答对,不代表检索可靠;检索到了资料,也不代表模型正确使用了它。
作者进一步建议保留一套持续使用的评测集,在新增资料或修改检索流程后重跑。它能帮助团队发现:普通检索何时开始漏掉关系问题,微调后的表达何时偏离要求,图索引是否有必要引入。
三种方案也可以组合。RAG 提供事实,微调约束回答方式,GraphRAG 只处理需要关系推理的子问题。原文推荐这种分工,但没有提供组合系统的实现、路由规则或收益数据。
我的判断
我认同先定位失败层,再选工具。对于接入内部文档或代码知识的产品,这比默认上复杂架构更容易验证投入是否有效。
需要打问号的是,原文把三类方案划分得比较整齐。跨文档问题不一定都需要图;普通 RAG 失败,也不能直接证明缺少关系索引。文章没有比较其他检索改进方案,因此不能据此判断 GraphRAG 已经是下一步的最佳选择。
微调同样如此。原文提到上下文指令无法稳定维持某些行为,但没有给出失败频率、训练数据或前后对照。哪些格式要求值得训练,仍要由团队自己的结果决定。
此外,「用同一个提示词比较」还不够。三种方案解决的任务不同,至少应把事实正确性、依据是否充分、格式是否合规分开评分。否则,一个格式整齐但事实错误的答案,可能掩盖真正的问题。
所以,这是一套有用的诊断框架;关于谁更便宜、谁在哪类问题上更强,原文给出的仍是经验判断。
能拿来做什么
- 给内部文档或代码库接入 AI 问答时,先用普通 RAG 验证「能否找到正确段落」,为评测题记录答案对应的资料位置。
- 遇到「修改认证模块影响哪些组件」这类问题时,先检查缺失的是否确实是依赖关系,再决定是否试做 GraphRAG。
- 如果事实回答正确,只是列表、语气或固定格式不稳定,先验证提示词约束的效果,再评估微调是否值得投入。
- 把真实失败案例加入持续使用的评测集,每次新增资料或调整检索流程后重跑,并分别记录依据、答案和格式的问题。