跳到正文
docai.cc

DOCAI · 概念 · L2

什么是推理模型

一句话定义

在回答前先花额外 token 做内部推理的模型:用更长的思考换更稳的多步结果。

开发者更新 2026-11-13核验 2026-11-13 · docai 编辑部

它解决什么

普通模型一步给出答案。问题需要多步推导时(数学、代码、多约束规划),中间少算一步就错。

推理模型先生成一段中间推理,再给结论。相当于把「草稿纸」也放进生成过程。

怎么工作

  • 生成额外的推理 token(对用户可能展示,也可能隐藏)。
  • 这些 token 也计入用量与上下文窗口。
  • 之后再输出面向用户的答案。

所以它更慢、更贵,但多步任务的成功率更高。

什么时候值得用

任务 适合推理模型
数学证明、复杂计算 是
多文件代码修改 是
多约束排期、规划 是
改写一段文案 不一定,普通模型更快更便宜
事实查询 不需要,检索更可靠

三个常见误解

  • 「想得久一定对」:不一定。推理方向错了,想得越久错得越完整。
  • 「推理过程就是模型的真实思考」:它是生成出来的文本,不等于内部状态。
  • 「所有任务都该用推理模型」:简单任务上它只是更慢更贵。

和普通模型对比

对比 普通模型 推理模型
首字延迟 低 高
输出 token 少 多(含推理)
多步任务 容易漏步 更稳
成本 低 高

延伸阅读

来源

定义与事实以以下来源为准;表述与取舍是本站整理的。
  1. [1]OpenAI · Reasoning models
  2. [2]Anthropic · API 文档

相邻概念