术语索引

让机器完成通常需要人类智能的任务的研究领域。这个名称首次出现在 1955 年的达特茅斯研究提案里，1956 年夏天的研讨会被视为这个领域的起点。

也叫：AI、达特茅斯会议

图灵在 1950 年提出的判断方法：如果提问者通过文字交谈分不清对面是人还是机器，就不必再纠缠“机器能否思考”的定义。

也叫：模仿游戏

早期 AI 的主流思路：把知识写成符号和“如果……那么……”的规则，让机器按规则推理。

也叫：规则方法、GOFAI、符号 AI

把某个领域专家的经验写成大量规则的程序，由推理引擎逐条匹配给出结论，例如 1970 年代诊断细菌感染的 MYCIN。

也叫：MYCIN、知识库、推理引擎

1966 年的对话程序，靠关键词匹配和句子模板做出回应。它并不理解语言，却让不少使用者觉得被理解了。

也叫：ELIZA 效应、聊天程序

下棋程序的基本方法：把可能的走法展开成一棵树，轮到自己时选得分最高的，轮到对手时假设他选对自己最不利的。

也叫：博弈树、搜索树、minimax

极小化极大搜索的加速方法：跳过不可能改变结论的分支，得到同样好的走法，但看的局面少得多。

也叫：剪枝、alpha-beta

可能性的数量随问题规模呈指数增长，很快多到无法逐一计算。1973 年的莱特希尔报告把它列为 AI 的核心难题。

也叫：搜索空间爆炸

对生物神经元的极度简化：把输入加权求和，超过门槛就输出 1，否则输出 0。1943 年由麦卡洛克和皮茨提出。

也叫：神经元、McCulloch-Pitts 神经元、阈值单元

1958 年罗森布拉特提出的可学习的神经元模型：遇到分错的例子，就把权重往正确的方向调整一点。

也叫：Mark I 感知机、Rosenblatt

神经元每个输入要乘上的数，表示这个输入有多重要。“训练”就是调整这些数。

也叫：连接强度、参数

神经元求和时额外加上的一个数，相当于把“及格线”往上或往下挪。

也叫：阈值、门槛

两类点能被一条直线（高维时是一个平面）完全分开。单个感知机只能学会线性可分的问题。

也叫：决策边界、决策线

两个输入不同时输出 1、相同时输出 0。它的四个点无法用一条直线分开，是单层感知机学不会的最简单例子。

也叫：XOR 问题、异或问题

AI 研究的经费与热情大幅回落的时期。第一次寒冬常被认为始于 1970 年代前期，《感知机》一书和英国的莱特希尔报告是标志事件。

也叫：第一次寒冬、莱特希尔报告、Lighthill

由许多简单计算单元（神经元）分层连接而成的模型。每个单元把输入加权求和，再经过一个激活函数输出。

也叫：人工神经网络、ANN、多层网络

模型里可以调整的数，主要是连线上的权重和每个神经元的偏置。训练就是调整参数。

也叫：权重、偏置、weight、bias

神经元在加权求和之后使用的非线性函数，如 sigmoid、tanh、ReLU。没有它，叠再多层也等于一层。

也叫：ReLU、sigmoid、tanh、非线性

用一个数衡量模型的输出和正确答案差多少。训练的目标是让它变小。

也叫：损失、误差、loss、代价函数

训练神经网络的基本方法：计算损失对每个参数的偏导数（梯度），再把参数朝梯度的反方向挪一小步，反复进行。

也叫：随机梯度下降、SGD、梯度

梯度下降每一步迈多大。太小训练很慢，太大会来回震荡甚至发散。

也叫：步长、lr

用链式法则从输出层往回逐层计算梯度的方法，让多层网络可以训练。1986 年的论文让它广为人知。

也叫：BP、误差反向传播、链式法则

误差往回传过很多层时越乘越小，前面的层几乎学不到东西；越乘越大则叫梯度爆炸。

也叫：梯度爆炸

用卷积层处理图像的神经网络。同一个小卷积核在整张图上滑动，找出局部图案，再逐层组合成更大的形状。

也叫：CNN、卷积网络、LeNet、AlexNet

卷积中滑动的小网格（如 3×3 的九个数）。它在每个位置与底下的像素相乘再加总，得到特征图上的一个点。

也叫：滤波器、filter、特征图、feature map

模型把训练数据里的噪声也当成规律记了下来：训练误差很小，在没见过的数据上却表现变差。

也叫：欠拟合、泛化

训练集用来调参数，测试集是训练时没见过的数据，用来检验模型是否真的学到了规律。

也叫：验证集、测试集、训练集

训练时随机让一部分神经元暂时不工作，迫使网络不依赖个别神经元，用来减轻过拟合。AlexNet 使用了它。

也叫：随机失活、正则化

原本为图形渲染设计、擅长大量并行乘加运算的芯片。2012 年起成为训练神经网络的主要硬件。

也叫：显卡、图形处理器、算力

2009 年发布的大规模人工标注图像库。由它衍生的 ILSVRC 竞赛提供约 120 万张训练图、1000 个类别。

也叫：ILSVRC、图像数据集

模型处理文字的最小单位。文字先被切成片段，每个片段对应词表里的一个整数编号。一个汉字可能是一个或多个 Token。

也叫：词元、标记、token 编号

模型认识的全部 Token 及其编号的列表，通常有几万到二十几万项。

也叫：vocab

一种从语料中统计出词表的算法：反复把最常一起出现的一对片段合并成新片段。

也叫：BPE、分词、tokenizer、分词器

每个 Token 对应的一长串数字，可以看作它在高维空间里的坐标；用法相近的词，坐标也相近。

也叫：词向量、向量、embedding

2013 年提出的学习词向量的方法，展示了“国王 − 男人 + 女人 ≈ 女王”这样的向量类比。

也叫：词向量

让每个词和其他所有词比较相关程度，再按权重把它们的信息混入自己的表示。

也叫：自注意力、self-attention、注意力

注意力计算中每个词派生出的三个向量：Q 用来提问，K 用来被匹配，V 是实际被取用的内容。

也叫：QKV、Q K V

同时做多组独立的注意力计算，每组可以关注不同类型的关系。

也叫：注意力头、head

生成文字时，让每个词只能看到它前面的词，因为后面的词还没有生成。

也叫：掩码、mask

把一组任意大小的打分变成加起来等于 1 的概率或权重的函数。

也叫：归一化

给每个 Token 加入位置信息，因为注意力本身不区分先后顺序。

也叫：RoPE、旋转位置编码

模型一次计算能放进来的 Token 数上限，超出部分不参与计算。

也叫：上下文长度、context length、上下文

2017 年提出的神经网络结构，以注意力为核心，能并行处理整句话，是今天几乎所有大模型的基础。

也叫：变换器

每一层的输出 = 输入 + 这一层算出的修改量，让很深的网络也能稳定训练。

也叫：跳跃连接

按顺序一个词一个词处理文本的网络，难以并行。LSTM 是它的改进版本。

也叫：RNN、LSTM

在海量无标注文本上训练模型“根据前文猜下一个词”。答案就是文本自己的下一个词，所以不需要人工标注。

也叫：pretrain、生成式预训练

给定前文，输出词表里每个 Token 成为下一个词的概率。GPT 系列的训练目标和生成方式都是它。

也叫：语言模型、自回归、language model

衡量预测错得有多离谱的数字。预训练常用交叉熵：正确答案的概率为 p 时，损失是 −log p；p 越接近 1，损失越接近 0。

也叫：交叉熵、cross-entropy、损失函数

在预训练好的模型上，用较少的、针对某个任务或风格的数据继续训练，让它更擅长这件事。

也叫：fine-tune、精调

BERT 使用的预训练方式：随机遮住句子里约 15% 的词，让模型根据两边的上下文猜回来。

也叫：BERT、MLM、完形填空

模型最后一层给每个候选 Token 打的原始分数，可正可负；经过 softmax 才变成概率。

也叫：分数、原始分数

采样前把分数除以温度 T 再做 softmax。T 越低，分布越集中、回答越稳定；T 越高，分布越平、回答越多样。

也叫：temperature、T

按模型给出的概率“抽签”决定下一个词。每次都选最高分的叫贪心解码；按概率抽，同一个问题每次的回答就可能不同。

也叫：解码、贪心解码、greedy decoding、decoding

只在概率从高到低累加到 p 之内的候选里抽签，其余丢掉。Top-k 则只保留分数最高的 k 个。

也叫：核采样、Top-k、top-p、top-k

根据预测和正确答案的差距，反复修改模型参数的过程。包括前向计算、反向计算和参数更新，计算量巨大。

也叫：训练阶段、反向传播

用训练好的模型处理输入、生成输出。参数只读不改；你和聊天机器人对话时发生的就是推理。注意它和“推理能力”（reasoning）不是一回事。

也叫：推断、生成、部署

经验规律：语言模型的损失随参数量、数据量和算力按幂律平稳下降，可以用小模型的结果估算大模型。

也叫：规模定律、scaling law、幂律

给定训练算力时损失最低的参数与数据分配。Chinchilla 论文认为两者应同比例增长，估算约为每个参数 20 个 Token。

也叫：Chinchilla、Chinchilla 定律、20 个 Token

在提示里给出任务说明和几个示范，模型就照着完成同类任务，不改动任何参数。GPT-3 让这种用法广为人知。

也叫：少样本、few-shot、零样本、zero-shot、单样本、one-shot、提示学习

让模型的行为符合人的意图和价值：听懂请求、给出有用的回答，避免有害或虚假的内容。

也叫：AI 对齐、价值对齐

只做过预训练的模型。它擅长续写文字，但不一定把输入当成需要回答的请求。

也叫：预训练模型、底座模型、base model

用“请求 + 人写的示范回答”继续训练预训练模型，让它学会按请求作答。

也叫：SFT、监督微调、instruction tuning、指令调优

让人比较模型的多个回答，用比较结果训练奖励模型，再用强化学习调整模型，让它更常给出人偏好的回答。

也叫：RLHF、基于人类反馈的强化学习

一个给回答打分的模型，从人类（或 AI）的偏好比较中学出来，用来在强化学习里代替人打分。

也叫：RM、偏好模型、preference model

形如“对同一个提示，回答 A 比回答 B 好”的数据。常用 Bradley–Terry 模型把它变成打分：A 胜 B 的概率 = σ(rA − rB)。

也叫：比较数据、排序数据、Bradley–Terry

InstructGPT 等用来按奖励模型调整语言模型的强化学习算法。通常还会约束模型不要偏离原模型太远。

也叫：近端策略优化、强化学习

为了对齐而在某些能力或评测上付出的性能损失。InstructGPT 论文用这个词描述它在部分公开评测上的退步。

也叫：alignment tax

Anthropic 提出的方法：用一组书面原则引导模型批评、修改自己的回答，并用 AI 给出的偏好代替大部分人工有害性标注。

也叫：CAI、AI 宪法、原则

用 AI 模型按原则给出的偏好比较来训练偏好模型并做强化学习，减少对人工标注的依赖。

也叫：AI 反馈强化学习

不单独训练奖励模型、也不做强化学习，直接用偏好数据上的一个分类式损失调整模型：提高好回答、压低差回答相对原模型的概率。

也叫：直接偏好优化

模型生成流畅、自信却与事实或给定材料不符的内容。训练和评测只看对错、奖励“猜”，是原因之一。

也叫：编造、一本正经地胡说、虚构

模型在没有把握时回答“不知道”。少答能减少幻觉，但答得太少会降低有用性，需要计分规则来权衡。

也叫：说不知道、弃权、IDK

能同时处理文字、图像、声音、视频等不止一种信号的模型或方法。“模态”指信号的种类。

也叫：多模态模型、跨模态

把图像切成的大小相同的小方块。每块摊平成一串数字、经过线性变换后，就成了一个图像 Token。

也叫：图像块、patch、图像 Token

2020 年提出的图像模型：把图片切成 16×16 像素的图块，当作一串“词”交给标准 Transformer 处理。

也叫：ViT、视觉 Transformer

加在序列最前面的一个可学习的 Token，经过各层注意力后用来汇总整张图（或整句话）的信息。

也叫：分类 Token、CLS

让图像、文字等不同模态的向量落在同一个空间里，意思相近的内容不论是什么模态，坐标都相近。

也叫：联合嵌入空间、对齐、图文对齐

用两个向量夹角的余弦衡量它们方向是否一致：1 表示方向相同，0 表示无关，−1 表示相反。

也叫：cos、相似度

一种训练方法：把配成对的样本向量拉近，把不配对的推远。CLIP 用它对齐图像和文字。

也叫：对比损失、InfoNCE

OpenAI 2021 年的模型：用约 4 亿对网上的图片和文字做对比学习，让图和字进入同一个空间，可做零样本图像分类。

也叫：图文对比预训练

不为某个类别专门训练，只用一句文字描述（如“一张猫的照片”）去比较相似度，就能判断图片属于哪一类。

也叫：零样本、zero-shot

训练时学会从加了噪声的图片里猜出噪声；生成时从纯噪声出发，一步步去噪得到图像。

也叫：DDPM、去噪扩散、扩散

先用自编码器把图片压缩到更小的“潜空间”，在里面做扩散再解码回像素，大幅降低计算成本。

也叫：Stable Diffusion、潜在扩散

把声音按时间切成很短的窗口，用傅里叶变换算出每个窗口里各频率的强弱，排成“横轴时间、纵轴频率”的图。

也叫：声谱图、语谱图、梅尔频谱

模仿人耳的频率刻度：低频分得细，高频分得粗。语音模型 Whisper 使用 80 个梅尔频带。

也叫：梅尔频带、mel

能读入图像和文字、输出文字的模型，例如 Flamingo、能接受图像输入的 GPT-4。

也叫：VLM、图文模型、看图的语言模型

让模型先写出一步步的中间推算、再给出答案的做法。对多步的数学与逻辑题通常能提高正确率。

也叫：CoT、链式思考、推理链

不给例题，只在问题后加一句“让我们一步一步想”，就能引出模型的分步推理。

也叫：一步一步想、Let's think step by step

经过专门训练、在回答前先生成一长段思考过程的大模型，例如 OpenAI o1、DeepSeek-R1。

也叫：思考模型、o1、R1

模型在回答问题时（而不是训练时）花费的计算量。让模型多写思考 Token，就是增加测试时计算。

也叫：推理时计算、思考时间

允许模型在回答前最多使用多少个思考 Token 的上限，用来在准确率、速度和费用之间取舍。

也叫：推理预算、思考 Token 上限

不直接告诉模型正确做法，而是让它尝试、按结果给奖励，使能拿到奖励的行为越来越常出现。

也叫：RL

由程序按规则判定的奖励，例如核对数学题的最终答案、检查输出格式，不需要人工逐条打分。

也叫：可验证奖励、准确率奖励、格式奖励

DeepSeek-R1 使用的强化学习算法：同一题采样一组回答，用每个回答的奖励减去组内平均、除以标准差作为优势来更新模型。

也叫：组相对策略优化

把一层网络换成许多并排的“专家”小网络，由路由器给每个 Token 挑出少数几个来计算。

也叫：MoE、专家混合、稀疏模型

混合专家里的一个小网络：给每个专家打分，决定当前 Token 交给哪几个专家、各占多少权重。

也叫：门控网络、gate、路由

只保留路由打分最高的 k 个专家参与计算。Switch Transformer 用 k = 1，Mixtral 用 k = 2。

也叫：top-k、选 k 个专家

处理一个 Token 时实际参与计算的参数量。MoE 模型的激活参数远小于总参数，例如 DeepSeek-V3 为 370 亿 / 6710 亿。

也叫：活跃参数、激活参数量

让各个专家分到的 Token 数量大致相当，避免少数专家过载、其他专家闲置。

也叫：均衡损失、辅助损失、专家均衡

不经路由器挑选、每个 Token 都会经过的专家；DeepSeek-V3 每层有 1 个共享专家和 256 个路由专家。

也叫：shared expert

回答前先从资料库里检索出相关段落，和问题一起放进上下文窗口，让模型依据这些资料作答并标出处。

也叫：RAG、检索增强、知识库问答

RAG 里负责“找资料”的部分：给资料库里的每一段打分，挑出和问题最相关的几段。

也叫：召回、检索

经典的关键词打分方法：一个词在这段里出现得越多、在整个资料库里越少见，权重就越高。BM25 是它的改进版。

也叫：关键词检索、BM25、词频

把问题和段落都变成向量，按向量的相似度找资料；能找到换了说法、字面不同的段落。

也叫：语义检索、稠密检索、DPR、向量数据库

RAG 论文的说法：训练进模型参数里的知识叫参数记忆；可以随时替换、检索的文档库叫非参数记忆。

也叫：参数记忆、非参数记忆、外部记忆

让模型在循环里工作的系统：写下下一步、调用工具执行、读回结果、再决定下一步，直到完成任务。

也叫：Agent、AI Agent、代理

2022 年提出的提示方法：模型交替写出推理步骤和行动，程序执行行动后把观察结果放回上下文，模型再接着写。

也叫：推理与行动、思考-行动-观察

模型按约定格式写出“调用哪个工具、传什么参数”，由外部程序真正执行，再把结果作为文字放回上下文。

也叫：函数调用、function calling、调用工具、Toolformer

2024 年开源的开放协议，规定 AI 应用（客户端）与数据、工具的提供方（服务器）之间怎样对接，消息用 JSON-RPC 2.0 格式。

也叫：MCP、MCP 服务器、MCP 客户端

把指令藏进模型会读到的内容（网页、文件、工具结果）里，让模型把它当成命令执行。

也叫：间接提示注入、indirect prompt injection、注入攻击

在发邮件、转账、删除文件这类有后果的操作执行前，先停下来让人查看并批准。

也叫：人在回路、人工审批、确认弹窗

只给 Agent 完成当前任务所需的最少工具和权限，就算被带偏，能造成的损失也有限。

也叫：权限控制、最少工具

公开模型参数文件、允许下载和本地运行的发布方式。许可证各不相同，开放权重不一定等于完全开源。

也叫：开源模型、open-weight

只向特定机构（如网络防御方）开放，或分阶段逐步扩大范围的发布方式。

也叫：分阶段发布、staged release

METR 提出的指标：模型能以一定成功率（通常 50%）完成、人类专家需要多长时间的任务。

也叫：METR、任务时长

让模型通过看屏幕、移动光标、点击和打字来操作电脑。OSWorld 是常用的评测基准。

也叫：操作电脑、OSWorld

模型能力在不同任务上极不均衡：能解竞赛难题，却可能在人类觉得简单的任务上出错。

也叫：能力不均衡

用固定题目衡量模型能力的测试。热门基准常在一两年内饱和，也可能因训练数据泄漏而失真。

也叫：评测、排行榜、ARC-AGI、HLE、SWE-bench

运行基准测试时给模型配的工具、提示和流程。同一个模型换框架，分数可能相差几十个百分点。

也叫：harness、测试框架

模型说“有 80% 把握”时，是否真的大约八成正确。校准差的模型答错时也很自信。

也叫：置信度、校准误差

模型过度迎合用户观点或情绪、而不是给出准确回答的倾向。

也叫：迎合

同一种能力既能用于防御也能用于攻击，例如寻找软件漏洞。

也叫：网络安全能力、cyber

把输入一层层算到输出的那一遍计算。推理只做前向计算；训练还要再做一遍反向计算，算出每个参数该往哪边调。

也叫：前向传播、forward

训练数据收集到的最后时间。此后发生的事不在参数里，模型只能靠放进上下文的新资料得知。

也叫：训练截止、cutoff、知识截止

训练时被压缩进参数的规律和事实，像闭卷考试时记住的内容：容量大，但概括、可能记混，也可能过时。

也叫：参数知识、闭卷知识

这一次放进上下文窗口的原文：问题、对话、附件、检索到的资料。像开卷考试时摊在桌上的书，可以逐字引用，但受窗口上限约束，换一段输入就变。

也叫：开卷信息、提示里的资料

经过注意力层改写之后的 Token 向量。同一个“苹果”，在“吃苹果”和“苹果手机”里会变成不同的表示；查表得到的嵌入向量只是起点。

也叫：上下文相关的向量、contextual embedding

聊天产品的软件功能：把用户过去说过的要点存起来，下次再放进上下文窗口。模型参数并没有因此改变。

也叫：聊天记忆、长期记忆、memory