⚙️ AI 知识全景图

Token 是模型处理文本的最小单元。现代 LLM 使用子词分词算法（如 BPE），将文本拆分为子词单元。例如 "unhappiness" 可能被拆为 ["un", "happ", "iness"]。中文通常一个汉字对应 1-2 个 Token，英文一个单词约 1-1.5 个 Token。

将离散的 Token ID 映射为 d_model 维连续向量。嵌入矩阵 W_emb in R^(|V| x d_model) 是可学习参数。语义相近的 Token 在向量空间中距离更近（由余弦相似度衡量），这是模型"理解"语义的数学基础。

对输入序列的每个位置，计算它与其他所有位置的关联强度。Query (Q) 表示"我在找什么"，Key (K) 表示"我有什么"，Value (V) 是实际传递的信息。Attention 权重 = softmax(QK^T / sqrt(d_k))，决定了每个位置应该从其他位置"吸收"多少信息。

对每个位置独立施加两层线性变换+非线性激活。FFN 是模型存储"知识"的主要位置（研究显示事实知识主要编码在 FFN 权重中）。现代 LLM 常用 SwiGLU 替代 ReLU，效果更好。

将 logits（未归一化分数）转换为概率分布。在 Attention 中用于计算注意力权重，在输出层用于计算词表概率分布。注意 SoftMax 对输入做了指数归一化，大 logit 值会被放大，小值会被压制。

模型所有可学习权重（矩阵、偏置、嵌入等）的总数。参数量决定了模型的容量上限。GPT-3: 175B, Llama-3-70B: 70B, DeepSeek-V3: 671B (MoE)。参数 = Attention 的 Wq/Wk/Wv/Wo + FFN 的 W1/W2 + Embedding + LayerNorm 等。

LLM 训练的核心损失是自回归交叉熵损失：给定前 i 个 Token，预测第 i+1 个 Token 的负对数似然。Loss 越低，模型对下一个 Token 的预测越准确。

利用链式法则从 Loss 出发，反向逐层计算 Loss 对每个参数 theta 的偏导数 dL/dtheta。PyTorch 中通过 autograd 自动实现。反向传播的结果是梯度——指示每个参数应该朝哪个方向调整才能降低 Loss。

根据梯度更新参数。实际训练使用 AdamW 优化器（结合动量+自适应学习率+权重衰减），而非朴素 SGD。大规模训练还使用 ZeRO/FSDP 进行分布式参数分片。

控制每次参数更新的步长。LR 过大 -> Loss 震荡发散；LR 过小 -> 收敛极慢。实际训练使用学习率调度：先 warmup 线性增长，再 cosine 衰减。大模型训练的 LR 选择对训练稳定性至关重要。

Transformer 之前的主流序列模型。通过隐状态 ht 传递历史信息，但存在梯度消失/爆炸问题，难以建模长距离依赖。Transformer 通过 Self-Attention 的全局感受野彻底解决了这一问题，使并行训练成为可能。

标准 Transformer 中每个 Token 经过所有参数计算。参数量 = 计算量。优点是表达力强，缺点是参数增大时推理成本线性增长。代表：GPT-3 (175B), Llama-2-70B。

将 FFN 替换为多个"专家"网络（Expert），由 Router（门控网络）为每个 Token 选择 Top-K 个专家。总参数量大但每次只激活一小部分，实现参数解耦。DeepSeek-V3: 671B 总参数，每 Token 仅激活 37B。

在海量文本（Web/Wiki/Books/Code，数万亿 Token）上训练 next-token prediction。模型学习语言的统计规律和世界知识。预训练后的模型是 Base Model，能续写文本但不能遵循指令。

使用高质量的"指令-回答"对（通常数万~数十万条）微调模型，使其学会"被提问时给出有帮助的回答"。SFT 将 Base Model 转化为 Instruct/Chat Model。数据质量远比数量重要。

三步走：1) 训练 Reward Model（人类对多个回答排序 -> 训练打分模型）；2) 用 RL 算法（PPO 或 DPO）优化 LLM 使其输出最大化 Reward。RLHF 让模型学习人类偏好：有用性、诚实性、无害性（HHH）。

当模型规模（参数量/训练数据/计算量）超过某个阈值，某些能力会从"几乎为零"突变到"显著水平"——如多步推理、少样本学习、代码生成等。这是规模定律 (Scaling Law) 的非线性体现。近期研究也表明某些"涌现"可能是评估指标的非线性造成的。

模型无需梯度更新，仅通过 Prompt 中提供的示例就能执行新任务。这是 LLM 的核心能力之一，与涌现能力密切相关。ICL 本质上是模型在预训练中学到了"元学习"能力——利用 Attention 机制从上下文中检索模式并应用。

GPT 类模型采用自回归方式生成：每步根据已生成的全部 Token 预测下一个 Token 的概率分布，采样后追加到序列末尾，重复直到 EOS 或达到长度上限。每次前向传播的输出是词表大小的 logits -> SoftMax -> 概率分布。

模型一次能处理的最大 Token 数。Self-Attention 的 O(n^2) 计算复杂度使得窗口扩展困难。通过 RoPE 外推、Ring Attention、Flash Attention 等技术，窗口已从 GPT-2 的 1024 扩展到 Gemini 的 1M+。窗口大小直接影响 RAG 和 Agent 能塞入多少信息。

tau->0 时退化为贪心解码（始终选最高概率词）；tau=1 为原始分布；tau>1 拉平分布增加多样性。代码生成通常 tau=0~0.2，创意写作 tau=0.7~1.0。

选择概率累积和达到 p 的最小 Token 集合，只在该集合内采样。p=0.9 表示只考虑概率前 90% 的 Token，过滤掉长尾噪声。与 Temperature 组合使用效果最佳。

利用自回归生成逐 Token 产出的特性，通过 Server-Sent Events (SSE) 或 WebSocket 逐 Token 推送给客户端，实现"打字机效果"。降低首 Token 延迟 (TTFT)，改善用户体验。推理优化中常用 KV Cache 避免重复计算历史 Token。

模型生成看似合理但事实上错误的内容。根本原因：LLM 学习的是 Token 的统计分布（"什么词最可能跟在后面"），而非事实本身。常见类型：事实性幻觉（编造不存在的事实）、忠实性幻觉（与给定上下文矛盾）。这是 LLM 落地最大的可靠性挑战。

控制模型行为的直接接口。Prompt 质量决定输出质量。关键技术：System Prompt 设定角色/约束；Few-shot 提供示例（利用 ICL）；结构化 Prompt 明确输出格式。

在 Prompt 中引导模型逐步推理，将复杂问题分解为中间步骤。CoT 让模型"展示工作过程"，利用更多前向计算来处理复杂推理。Zero-shot CoT ("Let's think step by step") 和 Few-shot CoT（给出推理示例）均能显著提升推理任务表现。

将长文档切分为适合检索和 LLM 上下文窗口的小块。策略包括：固定大小切分（如 512 Token + 50 重叠）、递归切分（按段落->句子->词层级）、语义切分（按内容相似度边界）。Chunk 大小直接影响检索精度和生成质量。

在有限的上下文窗口内最大化有效信息密度。策略包括：1) 检索结果重排 (Rerank)，只保留最相关 Chunk；2) 历史对话压缩/摘要；3) 上下文窗口动态分配（System + Retrieved + History + Query 的 Token 预算管理）。目标是让模型在有限窗口内获得最优上下文。

模型根据用户意图输出结构化的函数调用请求（函数名+参数 JSON），由外部代码执行后返回结果。OpenAI/Anthropic/DeepSeek 等均原生支持。模型被训练来识别"何时需要调用工具"和"如何构造参数"。

Anthropic 发起的开放协议，标准化 LLM 与外部工具/数据源的交互接口。MCP 定义了 Server（提供能力）和 Client（LLM 侧）的通信规范，类似 LSP 之于编辑器。一次集成即可与所有支持 MCP 的 LLM 互操作，避免 vendor lock-in。

将特定领域能力封装为可插拔模块（含 Prompt 模板、工具定义、知识库、工作流）。LLM 按需加载 Skill 扩展能力。与 Function Call 的区别：Skill 是更粗粒度的能力封装（一个 Skill 可能包含多个 Function），强调场景化封装而非单点工具。

以 LLM 为大脑，具备感知->规划->行动->观察循环的自主系统。核心模式：ReAct (Reasoning + Acting)——模型先推理下一步该做什么，执行工具，观察结果，再推理下一步。Agent 区别于单次 Function Call 的关键：自主多步决策和状态管理。

提供 LLM + Prompt + Memory + Tools + RAG + Chains 的组件化框架。核心抽象：Chain（将多个步骤串联）、Memory（对话历史管理）、Retriever（检索器）、Tool（工具封装）。适合中等复杂度的 LLM 应用快速开发。

LangChain 团队推出的 Agent 编排框架，以有向图建模 Agent 工作流。节点 = 状态转换函数（LLM 调用/工具执行/条件判断），边 = 状态流转。支持循环（ReAct 循环）、条件分支、多 Agent 协作、人在回路 (Human-in-the-loop)。解决 LangChain Chain 的线性局限。

由 Andrej Karpathy 提出的概念。开发者用自然语言描述意图，AI 生成代码，开发者凭直觉和"氛围"判断是否满意，不深究实现细节。核心特征：弱规格、弱验证、重迭代。适合快速原型、一次性脚本、非关键路径工具。代表工具：Cursor、Claude Artifacts、v0.dev。

先编写结构化的规格说明文档（Spec），定义接口契约、数据模型、业务规则、边界条件，再由 AI 根据规格生成代码。规格文档作为"单一事实来源"(SSOT)，既是 AI 的输入也是验收标准。优势：可追溯、可验证、可维护。适合正式项目开发。核心思路：从需求文档 -> 设计文档 -> 代码的 AI 辅助流水线。

为 AI 生成代码构建的工程化约束框架，确保输出质量和安全。包含：1) 静态分析（类型检查/Lint/AST 验证）；2) 自动化测试（单元/集成/E2E）；3) 沙箱执行（隔离 AI 代码运行环境）；4) 代码审查（AI 辅助 review + 人工 gate）；5) 回滚机制。"Harness" 指赛马的缰绳——不让 AI 代码"脱缰"。