DOCAI · 概念 · L2
什么是幻觉
一句话定义
模型生成看似合理、实则与事实不符的内容，而且往往说得很笃定。
开发者更新 2026-11-13核验 2026-11-13 · docai 编辑部
它是什么
模型输出了一段读起来完全合理、但事实错误的内容：不存在的文献、编造的 API 参数、记错的日期。
麻烦在于语气：它不会标注「这里我不确定」。
为什么会发生
模型在预测「下一个 token 最可能是什么」，不是在查数据库。
- 训练数据里没有，它仍会按语言模式补全。
- 罕见组合（人名 + 年份 + 期刊）最容易编。
- 提示里没给依据，又要求给出确切答案，它只能猜。
哪些场景高发
| 场景 | 风险 |
|---|---|
| 要具体数字、日期、引用 | 高 |
| 要最新信息（超出训练数据） | 高 |
| 长尾实体（小公司、冷门库） | 高 |
| 摘要你提供的原文 | 低（但仍可能曲解） |
哪些做法真的有效
- 给依据：把原文、文档放进上下文（RAG），并要求「只依据以下材料回答」。
- 允许说不知道：明确写「材料里没有就说没有」。
- 要求引用：每个结论标出来源段落，方便核对。
- 外部校验：数字、链接、代码用程序验证，不靠模型自证。
三个常见误解
- 「调低 temperature 就不编了」：不会。低温度只是更稳定地输出同一个错误。
- 「让模型再检查一遍就行」：同一模型自查，容易重复同样的错误。要用外部证据核对。
- 「大模型就不会幻觉」：都会，只是频率和类型不同。
延伸阅读
- 用检索给依据：什么是 RAG
- 采样随机性的作用：什么是 temperature