RAG 的成本结构：真正花钱的不是模型
检索增强生成的成本拆解：向量化、存储、检索、生成四块，以及怎么估算一个知识库问答系统的月成本。
成本更新 2026-10-28· 真机验证 2026-10-28 by 码农阿风
成本四块
| 环节 | 成本 | 说明 |
|---|---|---|
| 文档向量化 | 一次性 + 增量 | 按 token 计费，文档越多越贵 |
| 向量存储 | 月度 | 按向量条数/存储量 |
| 检索 | 极低 | 通常本地算，几乎免费 |
| 生成 | 主要成本 | 每次问答都调用模型 |
关键洞察
生成占 70-90% 的成本。
因为检索只是把相关片段塞进 prompt，但 prompt 变长 → 输入 token 变多 → 每次问答都贵。
怎么降本
- 少塞片段：检索 top-3 而不是 top-10
- 用缓存：同一知识库前缀反复出现，缓存能省很多
- 分级模型：简单问题用小模型
- 预摘要：把长文档先摘要再检索
一个估算示例
- 知识库 1 万页，向量化约 $10-50（一次性）
- 每天 1000 次问答，每次输入 4000 token、输出 300 token
- 按 $1/$5 每百万 token 算：0.001×(4000×1+300×5)/1000 ≈ 每天 $5.5
一个月不到 $200。 比自己想象的便宜——前提是别把检索结果塞太多。