DOCAI · 概念 · L2
什么是推理模型
一句话定义
在回答前先花额外 token 做内部推理的模型:用更长的思考换更稳的多步结果。
开发者更新 2026-11-13核验 2026-11-13 · docai 编辑部
它解决什么
普通模型一步给出答案。问题需要多步推导时(数学、代码、多约束规划),中间少算一步就错。
推理模型先生成一段中间推理,再给结论。相当于把「草稿纸」也放进生成过程。
怎么工作
- 生成额外的推理 token(对用户可能展示,也可能隐藏)。
- 这些 token 也计入用量与上下文窗口。
- 之后再输出面向用户的答案。
所以它更慢、更贵,但多步任务的成功率更高。
什么时候值得用
| 任务 | 适合推理模型 |
|---|---|
| 数学证明、复杂计算 | 是 |
| 多文件代码修改 | 是 |
| 多约束排期、规划 | 是 |
| 改写一段文案 | 不一定,普通模型更快更便宜 |
| 事实查询 | 不需要,检索更可靠 |
三个常见误解
- 「想得久一定对」:不一定。推理方向错了,想得越久错得越完整。
- 「推理过程就是模型的真实思考」:它是生成出来的文本,不等于内部状态。
- 「所有任务都该用推理模型」:简单任务上它只是更慢更贵。
和普通模型对比
| 对比 | 普通模型 | 推理模型 |
|---|---|---|
| 首字延迟 | 低 | 高 |
| 输出 token | 少 | 多(含推理) |
| 多步任务 | 容易漏步 | 更稳 |
| 成本 | 低 | 高 |