DOCAI · 概念库
AI 里的每个词,先给一句话定义
不绕术语:先说什么意思,再说什么问题、怎么工作、和相邻的词差在哪。看不懂的地方,页边都有一条「想动手」的路。
40 个词条 · 8 组
按主题
基础
07AI、机器学习、模型、token——先把词对上
- L0什么是 AI(人工智能)让机器完成原本需要人来做的事的一类方法的总称;今天说的 AI,多半是机器学习,尤其是大模型。
- L0什么是 LLM(大语言模型)用海量文本训练出来的模型:给它一段文字,它算出下一个 token 最可能是什么,再把结果接回去继续算。
- L0什么是 token模型处理文本的最小单位:一个词、词的一部分或一个标点;计费和上下文长度都按它算。
- L1什么是机器学习不写规则,给例子:让程序从数据里自己拟合出输入到输出的对应关系。
- L1什么是深度学习用多层神经网络自动学特征:浅层学局部搭配,深层学结构与语义。
- L1什么是神经网络由一层层可调的数值(参数)组成的函数:输入经过加权求和与非线性变换,逐层算出输出。
- L1什么是推理模型训练完成后,用新输入算出输出的过程——只前向计算,不改权重。
模型与能力
07Transformer、上下文窗口、参数量、推理模型
- L2什么是参数量模型里可训练数值的总数,通常以「亿/十亿」计;它决定容量,也决定训练与推理成本。
- L2什么是多模态能同时处理文字、图片、音频等不同形式输入的模型。
- L2什么是上下文窗口模型一次能看到的 token 总量上限:输入、输出和多轮对话的历史都算在里面。
- L2什么是推理模型在回答前先花额外 token 做内部推理的模型:用更长的思考换更稳的多步结果。
- L3什么是 MoE(混合专家)把模型拆成多个「专家」子网络,每次只激活其中少数几个,用更少的计算跑更大的参数量。
- L3什么是 Transformer2017 年提出的序列模型结构:用自注意力让每个位置直接看所有位置,训练可以并行。
- L3什么是注意力机制让模型在处理某个位置时,按相关性给其他所有位置分配权重,再加权求和。
提示与交互
06提示词、系统提示、temperature、结构化输出
接入与开发
04API、key、endpoint、流式、限流
应用架构
06embedding、RAG、Agent、MCP、工具调用
训练与对齐
04预训练、微调、对齐、偏好优化
成本与性能
03token 计费、首字延迟、缓存、吞吐
安全与合规
03幻觉、越狱、数据出境、内容审核