什么是 RAG

它解决什么

模型的知识停在训练截止日，也不知道你的私有文档。直接问，它要么答「不知道」，要么编一个像样的答案。

RAG 的思路很直接：回答之前，先去你的资料里找。

三步

1. 入库：文档切成小块 → 用 embedding 变成向量 → 存进向量库。
2. 检索：把问题也向量化，取出最相近的几块。
3. 生成：把问题和这几块一起放进提示，明确要求「只依据材料回答，找不到就说找不到」。

一个最小例子

问：「我们退款要几天？」

检索命中制度文档第 3 节「退款时限：3 个工作日」。模型据此回答，并标出出处。整个过程模型没有「学会」这份文档，只是这一次读到了它。

三个常见误解

• 「上了 RAG 就不会幻觉」：不会。检索没命中、材料本身过时、模型不按材料回答，都会继续出错。
• 「RAG 可以替代微调」：不能。RAG 补知识，微调改行为（语气、格式、固定流程），两件事。
• 「换个更大的模型就好了」：切块方式、检索质量决定上限。材料没被检索到，模型再强也答不出。

和相邻方案的区别

对比	RAG	微调	长上下文
补什么	知识	行为	这一次的材料
更新成本	改文档即可	要重新训练	每次都要重发
适合	私有文档问答	固定风格与流程	一次性长文分析
主要风险	检索不准	过拟合、遗忘	成本高、中间遗忘

延伸阅读

• 检索靠什么：什么是 Embedding
• 材料放不下怎么办：什么是上下文窗口
• 原始论文：《Retrieval-Augmented Generation》导读