什么是 LLM（大语言模型）

它解决什么问题

在 LLM 之前，让机器处理语言，基本是每个任务单独做一套：分词、词性、模板、标注数据。换一个任务就重来一遍。

LLM 把这些合并成一件事：给定上文，预测下一个 token。分类、摘要、翻译、改写、写代码，都可以表述成「续写」的不同问法。

怎么工作

1. 文本先被切成 token（一个词，或词的一部分）。
2. 每个 token 变成向量，经过几十层注意力计算，得到「下一个 token 的概率分布」。
3. 按这个分布选出一个 token，接到输入末尾，再算下一个。

一次只往前走一个 token，所以输出是一段段吐出来的——这就是流式输出。

一个最小例子

输入「今天天气真」，模型给「好」的概率最高，于是续出「好」。

它并不知道今天天气如何，只是在大量文本里见过这个搭配。这是示意，不是真实概率值。

三个常见误解

• 「它在查资料」：不是。权重里存的是训练时学到的统计规律，不是可检索的数据库。要查资料得外接检索，那是 RAG 要解决的问题。
• 「它记得我们聊过」：默认不记得。所谓记忆，通常是客户端每次把历史消息重新发一遍。
• 「它语气这么肯定，应该没错」：语气和正确率没有关系。错觉一样的错误，反而是它最擅长的错误。

和相邻概念的区别

对比	LLM	搜索引擎	规则程序
输入	自然语言	关键词	结构化参数
输出	新生成的文本	已有的网页	确定的结果
出错方式	编得很像真的	找不到或过期	报错，或静默算错

延伸阅读

• 想把模型接进程序：什么是 API
• 服务端怎么认出你是谁：什么是 API Key
• 想读原始论文：《Attention Is All You Need》导读