什么是 temperature

它改的是什么

模型每步算出的是一组「下一个 token 的概率」。temperature 在采样前缩放这组概率：

• 接近 0：几乎总选概率最高的那个，输出稳定、可复现。
• 调高：低概率的选项也有机会被选中，输出更多样，也更容易跑偏。

它不是「创造力开关」，只是把概率分布压平或拉尖。

什么时候调

场景	建议
抽取字段、分类、JSON 输出	低（0–0.3）
代码生成	低到中
头脑风暴、起标题	中到高
需要同一输入同一结果	最低，并固定其他采样参数

注意：temperature 为 0 也不保证完全确定，硬件与并行计算仍可能带来细微差异。

三个常见误解

• 「调高就更聪明」：不会。它只增加多样性，不增加正确率。
• 「temperature 和 top_p 是一回事」：两者都影响采样，但机制不同；通常只调一个。
• 「调低就不会编」：不会。幻觉来自知识缺失或提示不足，不是采样随机性。

和相邻参数的区分

参数	作用
temperature	缩放概率分布的陡峭程度
top_p	只在累积概率前 p 的候选里采样
max_tokens	限制输出长度，不改变随机性

延伸阅读

• 提示怎么写更稳：什么是提示词
• 要固定格式时用什么：什么是结构化输出