8.0
热点
AI SCORE
技术实践2026-10-25 19:02
RAG 答错时,先确认模型拿到了什么
dev.to · AI#检索增强#故障排查#提示词
Editor brief · 编辑速览
文章提出沿分块、嵌入、检索、重排和生成链路排查错误答案,先确认正确资料是否进入上下文。通过区分检索失败与生成失败,避免用修改提示词掩盖上游问题。
文章思维导图
Knowledge map
AI brief
原文暂未完整获取,基于公开信息的快读
文档助手回答如何轮换 API key,语气肯定,还附了引用,步骤却来自旧版控制台。dev.to 上这篇文章用这个例子提醒开发者:RAG 答错后,先检查正确资料有没有进入模型上下文。继续往提示词里加「必须准确」,可能修不到真正出错的环节。
目前能确认什么
RAG(检索增强生成)通常先把文档分块,将文本转换为向量,再检索相关片段,可选地重排候选结果,最后交给模型生成答案。每一步都可能影响最终回答。
作者提出,先把问题拆成两件事:正确片段有没有送到模型面前?拿到正确片段后,模型有没有用对?
具体做法是记录失败问题对应的片段 ID、正文、分数,以及实际传入模型的顺序,再逐段检查:
- 索引里是否有正确资料,解析时有没有漏掉内容,分块是否丢了标题等必要上下文。
- 正确片段是否被检索到,排名是否足以进入上下文,旧版本是否与新版本竞争。
- 资料已经传入后,模型是否受冲突内容、弱相关片段或提示词约束不足影响。
有引用,只能帮助追查依据,不能保证依据正确。
我的判断
对做知识库问答的程序员,这篇文章最实用的是给提示词调试设了一道前置检查:先保留模型实际看到的资料。否则,同一句错误回答背后,可能是文档没入库,也可能是检索遗漏,修法完全不同。
遇到错误码、函数名等精确查询,可以检查关键词检索能否补上向量检索的遗漏;正确资料排名靠后,再测试重排。不能看到答错就直接增加上下文。
节选还提出,用真实问题和对应答案文档建立小型检索测试集。但测试代码没有展示完整,生成质量如何评估也没说清。它提供了明确的排查顺序,尚不能据此认定某种检索组合适合所有知识库。