docai.cc

Token 怎么估算:中文到底占多少

不同模型的 tokenizer 差异很大,中文尤其明显。这篇给可操作的估算方法和留余量建议。

成本更新 2026-10-28· 真机验证 2026-10-28 by 码农阿风

粗略估算

语言 大约
英文 1 token ≈ 4 字符 ≈ 0.75 词
中文 1 token ≈ 1-2 个汉字

中文比英文更费 token。 同样意思的一段话,中文可能占 1.5-2 倍的 token。

为什么不能用一个标准

每个模型用自己的 tokenizer:

  • GPT 系列用 tiktoken
  • Claude 用自己的
  • 国产模型各有各的

同一个中文句子,在不同模型下的 token 数可能差 30%。

实用做法

  1. 用目标模型自己的 tokenizer 算(官方一般有库)
  2. 拿不到就用保守估计:中文按 1 字 = 1.5 token
  3. 预留 20% 余量

别忘了这些也占 token

  • 系统提示词
  • 工具/函数定义(这块经常被忽略,一个复杂工具定义可能上千 token)
  • 历史消息
  • 图片(按尺寸折算)

一个常踩的坑

你以为只发了 2000 token,实际系统提示 1500 + 工具定义 2000 + 历史 3000,总共 8500。报上下文超限时先算这个总和。