《程序员AI编程绿皮书》知识笔记与高效学习指南

PART 02 · 逐章精读笔记

贰全书知识地图（第 0–13 章 · 点击展开）

每个章节卡片提炼了该章「要解决什么问题」「核心知识点」「重要类比」与「关键术语」。展开即得一份可自测的精读清单。

序

序与前言 Vibe Coding → Spec Coding 的序幕

为什么写这本书？AI 时代程序员的价值从“写代码”转向“实现什么 + 如何组合”

阅读铺垫

▼

学习理念。把碎片化 AI 概念比作“一地工具却不知道何时用哪把”，本书将概念按能力递进组织成体系；70+ 概念 + 20+ 框架并非孤立点，而是一条主线。

Vibe Coding。Karpathy 2025 年 2 月提出：用自然语言编程，从“告诉计算机 How”转向“表达 What + Vibe”；模糊的“配色别太俗”也能被 AI 理解——但边界是 AI 自测会“监守自盗”，质量把关仍需人。

Spec-Coding。大型项目的进化形态：需求 → AI 协助写设计文档 → AI 基于文档生成代码 → 人工审核。文档 = AI 的记忆、团队的契约、审核的标准。

两者关系。Vibe 适合快速原型，Spec 适合中大型协作项目，实际常混合成 “Vibe-Spec-Coding”；另引 Qoder 为全书演示工具。

术语Vibe CodingSpec-Coding意图表达Qoder

原理

语言模型是什么 “文字接龙”背后的数学与工程

ChatGPT = 一个拥有 1750 亿参数的函数；训练不是解方程，而是梯度下降逼近

打地基

▼

本质 = 函数。回答 = f(问题, θ₁…θ₁₇₅₀₀₀₀₀₀₀₀₀)。参数是“存储知识的容器”，一词多义、指代消解、常识、语用都需要参数承载。

为什么不“解方程”？它是 96 层非线性嵌套系统，无解析解；O(n³) 求解 1750 亿未知数，计算量超过宇宙原子数 → 只能训练逼近。

训练本质。以降低 Loss 为目标：随机初始化 → 预测 → 算 Loss → 反向传播求梯度 → 梯度下降更新（新值 = 旧值 − 学习率 × 梯度），迭代数千亿次。

文字接龙。自回归逐词生成：每次计算 P(下一个词 | 前文)，Embedding → Transformer → Softmax → 按概率采样。词表固定，用 Token（子词）切分表达无限词汇。

三大演化关键。N-gram（看前几词）→ RNN/LSTM（传话衰减 0.9¹⁰⁰≈0.00003）→ Transformer（“群聊式”Self-Attention，直接互看、可并行、解决长程依赖）。

从模型到产品。基础模型只会接龙；ChatGPT = 预训练 + 对话训练（SFT + RLHF）。“产品化最后一公里比技术突破更重要”。

术语参数 1750亿Loss反向传播梯度下降学习率自回归TokenSoftmaxTransformerEmbedding→概率误差累积

训练

语言模型怎么训练 Embedding → 预训练 → 监督微调

文字如何变数字？通才如何变专才？

打地基

▼

Embedding：意义的数学化。One-Hot 像“身份证号”（只区分、稀疏、无相似度），Embedding 像“DNA”（低维稠密向量、可算相似度）；词向量能做代数：国王 − 男人 + 女人 ≈ 女王。

语义来自“关系网络”。共现训练让相关词靠近；“猫”的意义 = 它与其它词的关系；AI 是统计意义理解，余弦相似度衡量方向相近度（范围 −1~1）。

预训练 = 读万卷书。在海量文本上“预测下一个词”即自监督学习（答案在原文、零标注成本）；GPT-3 ≈ 1 万块 V100 训练 34 天、3000 亿 Token、成本超 1200 万美元。

叫“预”是因为后面还有两步。预训练产出“通才”（只会接龙、可能有害、知识冻结），小公司用开源模型（LLaMA/Qwen/DeepSeek）微调，成本仅为预训练约 1%。

SFT：教它“回答问题”。用数万~数十万条人工问答对做监督训练，数据质量远重于数量；把上下文结构化成“问题-答案”格式、用极小学习率精调，避免破坏已有知识。

SFT 的局限。只教“如何回答”，不教“什么是好回答”（不诚实、不拒绝、不会说不知道）→ 引出第 3 章 RLHF。

术语EmbeddingOne-HotWord2Vec余弦相似度预训练自监督学习Common Crawl知识截止SFTInstructGPT

进阶

语言模型的进阶能力 RLHF · 涌现 · CoT · 采样 · 幻觉

对齐三目标、大力出奇迹、一步一思考、温度旋钮与胡说八道

打地基

▼

RLHF / 对齐。目标是 Helpful · Honest · Harmless 三者平衡。核心巧思：不定义“什么是好答案”，只问“哪个更好”。三步骤 = 人类排序偏好数据（3~5 万条）→ 训练奖励模型打分 → 强化学习优化；需防“奖励黑客”（用 KL 散度约束 + 人工抽检 + 迭代）。

对齐三层递进。能力层（预训练：能做什么）→ 任务层（SFT：应该做什么）→ 价值层（RLHF：应该怎么做）。局限：标注偏见、过度迎合、越狱难尽；未来方向 = 宪法式 AI、可解释奖励、持续学习。

涌现能力。规模越过阈值“突然会了”（算术≈130 亿、代码≈100–300 亿、复杂推理≈500–1000 亿参数）；四大假说（原子能力组合 / 理解阈值 / 记忆临界 / 测量幻觉）。Scaling Laws 给出幂律 L∝N^−α，让“赌涌现”变成“有保底的投资”。

情境学习 In-Context Learning。不改参数、靠提示词示例即时学会新任务：Zero-Shot / One-Shot / Few-Shot；依赖预训练知识、受上下文窗口限制，固定任务精度不如微调。

CoT 思维链。让模型“展示工作过程”：Few-Shot 示例带推理，或 Zero-Shot 加一句 “让我们一步步思考”；准确率可从 17% → 57%+；原理 = 分解问题 + 自回归“边想边说” + 自我纠错；代价是 Token 消耗大增。

Temperature & Top-p。T 调整概率分布“尖锐/平缓”（低=确定，高=创造）；Top-p 核采样按累积概率动态圈定候选集；执行顺序 T 在前 p 在后；官方建议“只调一个”。任务口诀：事实问答 T0–0.3 / 代码 0–0.2 / 创意 0.7–1.2 / 头脑风暴 0.8–1.5。

幻觉。事实/能力/逻辑/填充四类；根因 = 只学“预测下一个词”而非“求真”、模式匹配、知识截止、自回归雪球、脱离真实世界；律师引用假判例被罚 5000 美元是经典警示 → 引出第 5 章 RAG 兜底。

术语RLHF奖励模型对齐三目标涌现Scaling LawsIn-Context LearningCoTTemperatureTop-p/核采样幻觉宪法式AI

实战

理解大模型开发 从“AI ≠ 大模型”到“智能翻译器”

三大核心能力 · 两种应用形态 · API 参数 · 上下文管理 · Prompt 五要素

首个动手关

▼

AI ≠ 大模型。AI 是 1956 年起的目标：符号主义 → 机器学习 → 深度学习 → 大模型只是当前一支；LLM 三大特征 = 规模巨大 + 通用能力 + Transformer；判断标准“能用 if-then / 10 行确定性代码就别用 AI”。

应用两种形态。LLM 主导型（去掉 LLM 产品就不存在，如 ChatGPT）；传统主导型（LLM 占 5–20% 作增强插件）。“90% 传统代码 + 10% AI”是常态；LLM 只用在“理解与生成”处。

混合架构“四棒接力”。AI 识别意图 → 正则/规则提取参数 → 数据库/系统查询 → LLM 生成自然回复；接入方式先 API 后自建；思维转变：确定性 → 概率性（接受不完美、学会“引导”而非“控制”、持续监控迭代）。

环境与首调。各厂商 API 兼容 OpenAI 风格（统一用 openai 库 + base_url）；API Key 用环境变量保管；Hello World 即 client.chat.completions.create(model, messages)。

核心参数。model 按复杂度选（Max/Plus/Flash）；messages 是有序数组；role 三种 = system(人设规则·建议放在首条) / user(提问·必有) / assistant(AI 历史回复·多轮必需)。每次调用都要带全历史——大模型无状态。

上下文管理三策略。近期优先（留最近 3–5 轮）、历史摘要（让 AI 压缩早期对话，可省约 67% Token）、规则前置（稳定规则固定进 system）；关注 response 的 finish_reason（stop/length/content_filter）与 usage 计费。

流式与长度。stream=True 逐块返回提升“感知速度”；max_tokens 控输出上限，配合 finish_reason=='length' 做截断检测；流式要拿用量需 stream_options={"include_usage":true}。

Prompt 五要素。角色 + 任务(SMART) + 上下文 + 格式 + 约束；必要场景 = 多模态生成 / 代码生成 / 系统集成（要像接口文档一样严）；结构化输出优先用 API 的 response_format={"type":"json_object"}（机器读），少依赖提示词“口头要求”。

术语NLU/NLGLLM主导/传统主导四棒接力messages/role上下文管理stream/max_tokensPrompt五要素JSON Mode

知识

RAG：知识接入技术 让 AI 学会“查资料”而不是“背资料”

Embedding · 向量数据库 · Chunking · 检索优化 · LlamaIndex

第3阶段 · 核心主菜

▼

为什么需要。LLM 两大局限：知识冻结在训练截止点、无法访问私有数据；对比方案——Fine-tuning 太贵太慢、Long Context 烧 Token（约贵 1600 倍）；RAG = “先找对资料，再让 AI 基于资料回答”，低成本 + 灵活可控 + 可溯源。

五步流水线。问题向量化 → 检索相关文档 → 提取片段 → 拼接上下文（【参考资料】+【问题】+【回答要求】）→ AI 生成；与“传统搜索”的本质区别：搜索给“材料”，RAG 给“答案”。

Embedding 选型。768/1536/3072 维；中文性价比选通义 text-embedding-v2，质量优先 OpenAI 3-large，隐私本地 bge-large-zh；特性 = 同义相近(≈0.89)、可跨语言、上下文感知（“苹果手机”vs“甜苹果”相似度最低）。

向量数据库。暴力搜索 10 万条约 10 秒，ANN 索引 ≈ 0.01 秒；核心算法 = IVF（K-Means 聚簇）、HNSW（多层图贪婪搜索，主流首选）、LSH（超平面哈希同桶）；Chroma 入门（须显式 hnsw:space=cosine），Milvus 企业级。

Chunking 的艺术。检索对象是片段而非整文档；四策略 = 固定大小 / 递归（按分隔符）/ 语义（相似度切）/ 文档结构（按标题条目，结构化文档首选）；Overlap 取 10%–20%；Java 规范问答实测：结构化分块语义完整度最高。

检索优化三板斧。Top-K（K=3 准确率约 92%，K=10 噪音反降至 75%）；相似度阈值过滤（如 0.7）；上下文压缩；再叠加分层检索（FAQ 小库优先）+ 向量缓存（相似度 >0.95 判同题，二次查询 <10ms）。

LlamaIndex。RAG 数据框架，把“加载→切分→建索引→检索→合成”封装成组件：VectorStoreIndex.from_documents 一行建库，as_query_engine(similarity_top_k, response_mode) 查询，还支持其他索引（Tree/Keyword）——RAG ≠ 只有向量检索。

术语RAGEmbedding向量数据库HNSW/IVF/LSHChunkingTop-KBM25Rerank/多路召回LlamaIndexChroma

能力

Function Calling 给 AI 装上“手脚”

决策与执行分离：LLM 决定调哪个工具，你的代码真正执行

第3阶段 · 工具调用

▼

为什么需要。LLM 被困在“文本进→文本出”，只能说不做；FC = 工具调用机制，让 AI 能查库、调 API、操作外部世界；RAG 解决“知识”，FC 解决“能力”，二者结合才是真助手。

本质 = 决策与执行分离。叫 Calling 而非 Execution：LLM 只“呼叫”（因为模型在云端够不到你的本地/内网资源，且需安全确认与权限），代码执行后把结果回填给模型整合。

一次完整闭环（至少 2 次 LLM 调用）。① 带 tools 首调 → 返回 content=null + tool_calls(name, JSON 参数)；② 代码解析并执行函数；③ 结果以 role=tool + tool_call_id 写回；④ 二调 LLM 生成最终回答。判断信号 = finish_reason=="tool_calls"。

工具描述是成败关键。LLM 主要靠 description 决定“该不该用这个工具”：写清功能 + 适用场景 + 限制 + 示例；参数遵循 JSON Schema（type/description/enum/default/required）；多轮与并行 tool_calls（独立信息同时取）都是渐进式决策。

生产级工程化。FUNCTION_MAP 把函数名映射为可调用对象；max_iterations 防死循环；try/except 把错误转成 {"error":...} 回传让 LLM 自处理；lru_cache 缓存不变数据降本；工具保持单一职责、参数容错（别名归一）。

术语Function Callingtool_callsfinish_reasonJSON Schema决策-执行分离FUNCTION_MAP并行/串行调用

标准

MCP：模型上下文协议 工具调用的“USB 标准”

Resources · Tools · Prompts 三原语，把工具抽成独立、共享、可审计的服务

第3阶段 · 协议标准

▼

解决什么。FC 的工具“写在代码里、每应用重复造、权限散落、进程耦合”；MCP 把工具抽成独立进程 Server，AI 应用变 Client 经协议通信——像 npm/pip，装一下就能复用，还天然进程隔离。

三原语。Resources（只读数据源，URI 按需加载，如查小说内容）；Tools（执行操作、可有副作用，如加书签）；Prompts（预制交互模板，如“你能帮我做什么”的说明）；“读数据用 Resource，动数据用 Tool”。

三方分工。LLM 决策（选哪个能力）→ AI 应用编排调度（发协议请求、收结果喂给 LLM）→ MCP Server 只提供能力不参与决策；LLM 不直接碰 Server，解耦是安全根基。

通信与传输。消息格式 = JSON-RPC 2.0（方法命名空间 resources/list、tools/call；错误码 −32xxx）；传输层 = stdio（本地最常用）/ SSE（Web）/ WebSocket（全双工）；生命周期 = initialize 握手协商 capabilities → 运行时 → 优雅关闭。

使用与发布。社区现成 Server 一键配置（mcpServers + npm 包名，如 antv-chart 用自然语言出 25+ 图表）；自建 Server 用 Node.js SDK、Python Client 集成；发布 Server 本质就是发 npm 包；经验：内容生成类更适合 Skill，严谨执行服务（下单/航班/数据库）才适合 MCP。

术语MCPResources/Tools/PromptsHost/Client/ServerJSON-RPC 2.0stdio/SSE/WebSocket进程隔离Agent Card

框架

LangChain 框架入门 把 AI 应用拆成“乐高积木”

六大组件 · LCEL 管道 · 记忆 · 工具调用 · RAG 集成

第4阶段 · 提效

▼

为什么需要。手写 AI 应用痛点 = 重复多（管理历史/解析 FC/错误重试）、无抽象、难维护；LangChain 把常见模式封装成标准化组件，框架代管对话、工具调用、流程编排。

六大核心组件。Models(模型接口) / Prompts(模板) / Chains(串联步骤·线性单向流水线) / Memory(对话历史) / Tools(外部工具) / Agents(自主决策·站在最上层)。类比：Models 灶台、Prompts 菜谱、Chains 流程、Memory 冰箱、Tools 厨具、Agents 大厨。

LCEL 管道。用 | 把步骤串成流水线（prompt | llm），Runnable 统一 invoke/stream 接口；记忆用 MessagesPlaceholder 留位 + InMemoryChatMessageHistory 存储 + RunnableWithMessageHistory 按 session_id 自动注入回收。

工具调用。@tool 装饰器自动解析函数名/参数/docstring 生成“说明书”；create_agent(llm, tools, system_prompt) 接管“判断→调用→获取→反馈”完整循环。工程原则：能用 Chain 就别用 Agent（Agent 每轮推理都烧 Token）；复杂条件分支交给 LangGraph。

RAG 四组件。Document Loaders + Text Splitter(如 RecursiveCharacterTextSplitter 500/50) + Embeddings+VectorStore(Chroma) + Retriever；RetrievalQA.from_chain_type 自动“检索→拼接→回答”，组件可插拔切换。

术语LangChain六组件LCELRunnableMemory@toolRetrievalQAChain vs Agent

编排

LangGraph：工作流编排 从“黑盒自动决策”到“白盒分阶段执行”

State/Node/Edge/Graph · 条件分支与循环 · Human-in-the-Loop

第4阶段 · 有状态

▼

为什么需要。简单 Agent 是一次性“黑盒”：无法暂停审查、保留中间状态、流程不可控；LangGraph 用状态图让每步显式可控、数据累积在 State 中、可暂停恢复。

四大核心概念。State（数据容器，TypedDict 定义，累积性合并）；Node（处理单元：读 State → 处理 → 返回要更新的字典）；Edge（固定边 add_edge + 条件边 add_conditional_edges）；Graph（StateGraph 容器，compile() 后 invoke/stream）。

分支与循环。条件边用路由函数读 State 决定去向；循环 = 节点指向自己（有环图），必须有退出条件（如 retry_count<3 + 质量分判断）防死循环；典型场景 = 文章写作 Agent（主题→大纲→初稿→润色）、质量门重写循环。

Human-in-the-Loop。compile(interrupt_before=["review"], checkpointer=MemorySaver) 设暂停点；两次 invoke：先跑到暂停 → 人工 update_state 写决策 → 再 invoke(None, 同 thread_id) 恢复；checkpointer 负责保存状态（MemorySaver 内存 / SqliteSaver 持久化）。

理念。“全自动并非终点，LLM 生成 → 人工修改才最可靠，避免幻觉累积”；有状态工作流是 Multi-Agent 编排的地基。

术语LangGraphStateGraphNode/Edge/State条件边DAG/有环图checkpointerinterrupt/resumeHuman-in-the-Loop

封装

Skill：可复用技能封装 把专业知识变成 Agent 的“肌肉记忆”

SKILL.md · description 路由钥匙 · 渐进式加载 · skill-creator

第5阶段 · 沉淀

▼

为什么需要。通用大模型缺领域隐性知识，超长提示词有 token 浪费、难维护、无法执行逻辑三弊端；Skill 把专业知识/工作流/最佳实践封装为标准化模块（2025 年 10 月 Anthropic 发布，12 月开放标准，Qoder/Trae/Cursor/Codex 等皆支持）。

物理形态。必需 SKILL.md（YAML frontmatter 的 name+description + Markdown 正文），可选 reference.md / examples.md / scripts/（交给 Agent 执行）/ templates/。设计原则：能用文本说清就写正文，确定性重复逻辑写脚本。

description 是“路由钥匙”。它是 AI 决定是否加载的唯一可见信息（正文触发后才读），须含 [功能]+[触发关键词]+[使用场景]；渐进式加载三层 = ①name+description(~100 token 常驻) ②正文(触发后) ③references/scripts(按需)。

触发与生效。自动触发是理想（匹配 description），手动 /skill-name 是后路，二者互补；提高命中率 = description 写窄写准 + 用约 20 条评估查询迭代测试；活跃 Skill 控制在 8 个内防上下文稀释；一个 Skill 只做一件事（知识/执行/验证/自动化四类）。

创建途径。优先用官方 skill-creator（生成 Skill 的 Skill，内置 YAML 校验与触发测试）而不是手写；书中 frontend-design 实战示范了“10 行 Prompt + 高质量 Skill = 有审美的 UI”。

术语SkillSKILL.mdFrontmatterdescription 路由渐进式加载skill-creatorHumanizer/slash 手动触发

智能体

Agent：智能体架构 从“回答问题”到“达成目标”

感知-思考-行动循环 · 五大模块 · 记忆系统 · 推理模式 · 范式选择

第6阶段 · 顶峰

▼

什么是真正的 Agent。聊天机器人“对话优先”，Agent“目标优先”——围绕目标分解任务、自主决策、依反馈持续修正；学术定义 = 感知环境并行动的实体（早于 LLM）；五个特征：目标导向、持续性、可行动、可感知、可解释可控。

演进四阶段。纯文本对话 → Function Calling（能调用工具但一次性）→ ReAct（思考-行动-观察循环，2023）→ 自主 Agent（自主规划/长期记忆/主动发起）；生产环境多数仍跑在 ReAct 或其精细化变体。

核心架构。PTA 循环（感知 Perceive → 思考 Think → 行动 Act）；五大模块 = 感知层（组装上下文）/ 规划层（Plan-then-Execute 一次性 vs ReAct 边做边想）/ 推理层（CoT/ToT/Self-Reflection）/ 行动层（调工具）/ 记忆系统。

记忆系统四种。短期（对话历史，滑动窗口）；工作（任务状态，即 LangGraph State）；长期（跨会话，向量库/数据库 + top-k）；情景（事件时间线，用于审计）。遗忘三方式 = 删除/压缩（保留要点）/降级。

推理模式。CoT 用于任务规划（文本思考）；ToT 思维树探索多路径（每层 3–5 分支打分筛选，成本高，生产可用 LangGraph 实现）；Self-Reflection 三阶段自检，上限 ≤3 次防纠结。多数情况 CoT + Self-Reflection 已足够。

实现范式对比。单体（一个 LLM 全干，简单但易“人格分裂”）vs 模块化（专业分工）；Prompt-driven（灵活不稳）vs Code-driven（稳但僵）；经验法则 = 80% 简单问题用单体快速响应，20% 复杂问题用模块化；Code 定主流程 + 关键节点 LLM 决策的混合范式最实用（智能旅行 Agent 300 行实践）。

术语AgentPTA 循环ReActPlan-and-Execute五模块记忆四类CoT/ToTSelf-ReflectionAgentic RAG

协作

Multi-Agent：多智能体协作 从个体智能到群体智能

协作四模式 · A2A 协议 · CrewAI 实战（题目生成器与考试系统）

第6阶段 · 顶峰

▼

为什么多 Agent。单 Agent 三局限 = 能力边界、上下文窗口、无法并行；多 Agent 带来专业分工、边界清晰、并行处理、容错备份的“群体智能”。

协作四模式。层级（Manager+Worker）、平等协商（Peer-to-Peer）、流水线（固定顺序 Pipeline）、动态组合（Router 按需调度）。

Google A2A 协议。Agent 间的“HTTP 标准”：数据模型层 → 操作层 → 协议绑定层（JSON-RPC 2.0 保底）；三种协作 = Request-Response / Delegation（委托目标）/ Collaboration（平等协商）；Agent Card 是 JSON“数字身份证”，配合注册中心动态发现。

CrewAI 四要素。Crew（团队）、Agent（执行单元：role/goal/backstory/tools/llm）、Task（工作单元：description/expected_output/context，与 Agent 1:1 绑定）、Process（Sequential 顺序 / Hierarchical Manager 分配）；工程参数 max_rpm、max_retries、verbose。

最终实战的 4 条设计原则。① 不是所有业务都要 AI（组卷/答题/批改用传统代码，混合架构省 75% Token）；② 按依赖选模式（先后依赖用 Sequential，可并行用 Hierarchical）；③ Agent/Task 用函数式工厂、Crew/主程序用类；④ 成本优化从设计开始。

术语Multi-AgentA2AAgent CardCrewAICrew/Agent/Task/ProcessSequential/Hierarchical混合架构

前沿

2026 订阅更新 Loop Engineering：给 Agent 角色，而不是任务

让 AI 自己发现问题、决定优先级、动手解决——你只做监督员

前沿视野

▼

核心命题。当 AI 需要你逐条发指令时，你只是“问题搬运工”；Loop Engineering = 定义“岗位职责”而非“任务指令”，让 Agent 自己循环运转——把人从操作员变成监督员（2026.6 OpenAI 与 Anthropic 两位负责人不约而同提出）。

三个核心文件。LOOP.md（岗位说明书：每天做什么/什么不能做/如何验收）；STATE.md（工作日志落盘）；gate.yaml（机器可读“禁区地图”：denylist 禁区如 .env/payments + autoMergeAllowlist 安全区）。

两道安全设计。Verifier Ladder 验证阶梯 = CI 测试 → 独立 Verifier Agent（Maker/Checker 分离、不同模型不互信）→ 机械 loop-gate；只有“合并生产”需人确认。六个积木 = 调度(Scheduling)/技能/隔离工作区(Worktree)/接口/子智能体/记忆状态。

接口才是落地瓶颈。企业 Agent 化最大的坎不是模型能力，而是“系统没有接口或不适合 Agent 调用”；选型优先级 = CLI（结构化、可组合）→ MCP 补充 → RESTful API → 浏览器自动化最不推荐（脆弱易封）。

术语Loop EngineeringLOOP.md/STATE.mdgate.yamlVerifier LadderMaker-CheckerWorktree接口优先 CLI

附

附录

附录：未尽的故事 409 个中英术语的“字典”

全书 409 个核心术语的中文/English/音标/说明四栏索引，按 A–Z 排序

工具书属性

▼

怎么用。不是一次读完的章节，而是“随查随用”的术语字典——复习时把术语当考卷：盖住说明，看英文能否说出中文、看中文能否想起它在书中的位置与作用。

覆盖。第 0–12 章全部“学点英语”词汇表汇总，从 Token、Embedding 到 Loop Engineering 相关术语（Worktree/Denylist/Verifier Ladder 等）共 409 条，含音标。

术语409 词中英音标对照术语索引

PART 03 · 一卡一概念

叁核心概念速查（40 个必懂名词）

按“原理 → 训练 → 应用 → 智能体”分层精选。学习时先盖住右侧含义自测，是最高效的主动回忆练习。

Token/词元

模型处理文本的最小单位；中文约 1 字 ≈ 1 Token，英文 1 词 ≈ 0.75 Token。一切计费与窗口的计量基础。

自回归Autoregressive

逐词预测：把已生成的词作为下文输入，直到输出结束。误差会“雪球”累积，这是幻觉与偏题的根源之一。

Transformer架构

基于 Self-Attention 的架构：词与词直接互相关注、可并行，解决长程依赖。所有主流大模型的共同底座。

Embedding向量化

把文字映射成低维稠密向量，语义相近则向量相近。国王−男人+女人≈女王的“语义代数”就发生在向量空间。

余弦相似度Cosine

衡量两向量方向接近度（−1~1）。RAG 检索“找最相关片段”的本质就是算这个值并排序取 Top-K。

预训练Pretraining

在海量文本上做自监督“预测下一个词”，让模型获得通用语言能力。产出“通才”，成本以千万美元计。

SFT监督微调

用人工问答对让模型学会“回答问题”而非“接龙”。只教“如何回答”，不教“什么是好回答”。

RLHF人类反馈强化学习

用人类偏好排序训练奖励模型，再强化学习优化——教模型“符合人类价值观地做事”（对齐）。

涌现能力Emergence

规模跨过阈值后突然出现、小模型没有的能力（算术/代码/推理）。呼应“大力出奇迹”与 Scaling Laws。

Scaling Laws缩放法则

Loss 与规模呈幂律：L∝N^−α。让“赌涌现”从盲目赌博变成“有保底的风险投资”。

上下文学习In-Context

不更新参数，靠提示词里给例子（Zero/One/Few-Shot）让模型即时学会新任务——Prompt 工程的理论根基。

CoT 思维链Chain-of-Thought

让模型展示“分步推理”而非直接给答案，显著提升复杂任务准确率；“让我们一步步思考”即可触发。

Temperature温度

采样前调整概率分布“尖锐/平缓”：低值更确定、高值更有创造力。事实问答用低温，创意任务用高温。

Top-p / 核采样Nucleus Sampling

只从“累积概率达 p”的动态候选集里采样；模型越确定候选越少。建议与 Temperature 只调其一。

幻觉Hallucination

看似合理实则虚构的输出。根因是“预测最像”而非“判断真假”；工程上用 RAG/工具调用/验证来兜底。

上下文窗口Context Window

单次能处理的 Token 上限（如 128K/1M）。决定可携带历史长度，是记忆与成本的硬约束。

角色 Rolesystem/user/assistant

messages 三种身份：system 设人设规则、user 提问、assistant 记录 AI 历史回复。多轮对话必须携带全量历史。

流式输出Streaming

stream=True 让内容边生成边返回，提升“感知速度”。流式计费需 stream_options.include_usage。

Prompt 五要素Role/Task/Context/Format/Constraint

优秀提示词框架：角色+任务+上下文+格式+约束。结构化输出优先用 response_format 而非口头要求。

RAG检索增强生成

先检索知识库（向量相似度）再让 AI 基于资料生成。低成本解决知识过时与私有数据；RAG=搜索+AI 给“答案”。

Chunking文档分块

把长文档切成“最小、完整、语义单元”的片段再入库；结构化文档按标题/条目分块效果最佳，重叠 10–20%。

向量数据库Vector DB

海量向量近似检索引擎，HNSW 是主流算法。Chroma 入门、Milvus 企业级、Pinecone 云托管。

多路召回 + RerankHybrid Search

向量 + 关键词(BM25)等多路检索合并去重，再用精排模型重打分。专有名词、精确匹配靠 BM25 补位。

Function Calling工具调用

LLM 决策并输出“调哪个函数+参数”，代码真正执行后把结果回填。本质是“决策与执行分离”。

JSON Schema参数规范

定义工具参数的类型/必填/枚举/默认值。description 写得越清晰，LLM 选对工具的概率越高。

MCP模型上下文协议

把工具/数据源封装成独立进程服务的开放标准（2024.11 Anthropic 发起）。“AI 的工具 USB 接口”。

三原语R/T/P

MCP Server 三大能力：Resources（只读数据）/ Tools（执行操作）/ Prompts（预制模板）。LLM 决策、应用调度、Server 执行。

JSON-RPC 2.0通信协议

MCP 的消息格式（请求/响应/通知），方法用命名空间分层如 tools/call；传输层可选 stdio/SSE/WebSocket。

LangChain组件化框架

六大组件 Models/Prompts/Chains/Memory/Tools/Agents + LCEL 管道。原则：能用 Chain 就别用 Agent。

LangGraph状态图编排

State/Node/Edge/Graph 把 AI 流程做成“白盒有状态工作流”，支持条件分支、循环与人工介入中断点。

Skill可复用技能

SKILL.md（name+description 元数据 + 正文）封装领域知识；description 是触发“路由钥匙”。

Agent智能体

“目标优先”的智能决策体：感知—思考—行动循环。特征=目标导向/持续/可行动/可感知/可控。

ReAct推理+行动

Thought → Action → Observation 循环，把“思考”显式化以便调试。生产环境 Agent 的主流推理范式。

记忆系统Memory

四层：短期（对话窗口）、工作（任务 State）、长期（向量库/DB）、情景（事件日志）。遗忘=删除/压缩/降级。

Human-in-the-Loop人在回路

在关键节点暂停让“人拍板”再恢复执行，是 AI 应用可靠落地的必备机制（LangGraph checkpointer 实现）。

Multi-Agent多智能体

多个专业 Agent 分工协作（层级/协商/流水线/动态），突破单 Agent 能力与上下文上限，迈向群体智能。

CrewAI协作框架

Crew+Agent+Task+Process 构建多 Agent：Sequential 顺序流或 Hierarchical 管理器分发。

A2A 协议Agent 间通信

Google 主导的跨平台 Agent 互操作标准；Agent Card 描述能力供注册中心动态发现。

Vibe Coding自然语言编程

用“意图+感觉”编程而非语法；边界=不能自证正确，需要人把控架构与质量。

Spec-Coding规格驱动开发

需求→设计文档→AI 生成代码→人工审核。文档同时是 AI 记忆、团队契约、审核标准，适合中大型项目。

Loop Engineering循环工程

用 LOOP.md 定义“岗位职责”让 Agent 自主循环（发现问题→处理→汇报），配 gate.yaml 机械安全门。

混合架构Hybrid

确定性流程用传统代码、需要理解/生成的环节才调 LLM；一个考试系统因此省下约 75% Token。

PART 04 · 怎么读效率最高

肆高效学习这本电子书的方法

这本书结构设计本身就利于自学：每节有“阅读指南”、正文大量类比、章末有“学点英语 + 思考帧 + 冷知识”。下面六条方法是把书读“透”的杠杆。

🧱

1 · 先搭骨架，再填血肉

第一遍只读各章「第 1 节」和章末结语，先在大脑里画出“第 1–3 章讲原理 → 第 4 章上手 → 第 5–7 章给知识与能力 → 第 8–10 章框架封装 → 第 11–13 章智能体”的骨架；第二遍再逐节填充。带着“它在能力主线哪个位置”的问题读，比顺序硬啃高效得多。

🗣️

2 · 费曼式转述 + 类比复述

每读完一节，合上书用一句话向“小白”解释：“这本书把 X 比喻成什么”（如 Transformer=群聊、HNSW=多层地图、MCP=npm）。能讲出书中类比并自创一个新类比，说明真懂了；讲不出就回去重读。

🎯

3 · 主动回忆代替反复阅读

用第贰部分的“知识地图”当自测题：点开章节前先默写它的核心知识点与术语，盖住速查卡释义回忆，卡住的地方打标记。间隔 1 天 / 3 天 / 7 天重测——记忆留存率远高于重读划线。

👨‍💻

4 · 实践驱动：每个概念都要“跑一遍”

书中第 4 章起几乎所有课时带可运行代码（samples/ 目录）。原则：先自己读代码猜输出 → 运行验证 → 故意改坏一处看报错。翻译器→游戏问答→Java 规范 RAG→装备查询 FC→旅行 Agent，五个项目跑通，应用层知识才算真正到手。

🤖

5 · 把 AI 当陪练，而不是答案机

遇到卡点先问大模型并连续追问（“换个例子”“如果数据是 100 倍呢”）；用学到的 Prompt 五要素给它下任务，让它按你的要求生成练习题或代码评审。用 Prompt 工程的方法学 Prompt 工程，事半功倍。

🧠

6 · 二八法则：抓“不变量”

AI 技术迭代极快，优先学透全书反复强调的不变量：概率生成、无状态、上下文窗口、幻觉、涌现。RAG/FC/MCP/Agent 每年都在变，但只要底层原理清晰，新技术出现时你只需问三个问题——它解决哪个阶段的问题？在演进链什么位置？和现有技术什么关系？

🔁

推荐阅读节奏：三遍阅读法

第一遍（扫读，约 2–3 天）：只读阅读指南、加粗句、小结与类比，建立全书地图。第二遍（精读 + 敲码，约 2–4 周）：按下方学习路径逐章过，同步运行全部示例。第三遍（项目反哺，长期）：带着自己的真实项目回头查章节——这时的书是一本“手册”，而非“课本”。

每天 45–90 分钟
先跑代码再读原理
每周一次章节自测
用 Spec-Coding 沉淀设计文档

PART 05 · 具体学习路径

伍按人群选路线，按周打卡推进

全书是一条"能力递进"主轴：理解原理（1–3 章）→ 初次实战（4 章）→ 赋予知识与能力（5–7 章）→ 框架提效（8–9 章）→ 能力封装（10 章）→ 智能体构建（11–12 章）。不必逐课时平推，先认清自己是哪类学习者、时间预算几何，再按下表"跳读 + 深读 + 跑项目"组合推进。三条路线的终点一致：能独立做出一个调用 AI 能力解决真实问题的应用。

适合：没写过代码、或只写过少量脚本，想系统进入 AI 应用开发。策略：原理章节"只求类比理解、主动跳过数学"，把省下的时间全部压到第 4 章之后的跟敲与改项目上——这本书本就是为"不懂数学也能学"而设计。

W1–2

原理筑基

第 0–3 章 · 逐节精读

认识大模型：它不是一个黑盒不写代码

读序言与教材特色，先记住全书两条主线与能力递进七阶段
第 1 章抓本质：函数、参数、文字接龙、Token、概率分布
第 2 章抓训练三步：Embedding → 预训练 → SFT，画出流程图
第 3 章抓进阶：RLHF、涌现、CoT、Temperature/Top-p、幻觉
每节用"费曼转述"：向小白讲出书中类比（群聊/旋钮/贪吃蛇/蒙眼下山）

产出：一张全书能力主线图 + 30+ 术语卡片（可用第叁部分速查卡自测）

首次实战

第 4 章 · 全部跟敲

迈出第一步：跑通第一个 API 应用专业翻译器

搭好环境，完成第一次 API 调用，逐个调 temperature / max_tokens / stream
练多轮对话与上下文管理，理解"谁在维护历史"
吃透 Prompt 五要素，用结构化输出改造翻译器

产出：翻译器跑通，并故意改坏一处参数观察报错、再修好

W4–5

知识与手脚

第 5–7 章 · 主线课时

给 AI 接知识、装手脚问答机器人 → 装备查询

第 5 章：跑通 RAG 全流程（文档→分块→向量化→检索→生成），理解 Chunking 与 HNSW
第 6 章：做游戏装备查询，看清 Function Calling 的"决策→执行→回填"闭环
第 7 章：理解 MCP 三大原语 Resources / Tools / Prompts 的分工，接入一个现成 Server 体验"工具界的 USB"

产出：一个 RAG 知识问答 + 一次真实工具调用

框架提效

第 8–9 章 · 精选课时

从"手写胶水"到"工作流" LangChain → LangGraph

第 8 章：理解六大组件与"能用 Chain 就别用 Agent"的工程哲学
第 9 章：用 State/Node/Edge 搭一个带条件分支的流程，加一次 human-in-the-loop 暂停

产出：把翻译器重构成一条可暂停、可追溯的 LangGraph 工作流

封装与智能体

第 10–11 章 · 深读

从"会做事"到"会当家" Skill → Agent

第 10 章：按 SKILL.md 规范做出人生第一个 Skill，实测 description 如何触发
第 11 章：精读 Agent 核心架构，跑通智能旅行规划 Agent（约 300 行）

产出：1 个自建 Skill + 1 个能记忆用户偏好的 Agent

群体智能收官

第 12 章 + 全书结语

多智能体协作与设计原则习题生成 / 考试评测系统

跑通两个 CrewAI 实战，体会 Sequential 与 Hierarchical 的差别
回炉结语"四条核心设计原则"：不是所有业务都需要 AI、按依赖选模式、代码组织有讲究、成本优化从设计开始

产出：一个混合架构小系统 + 完成度自检清单

通关标准能不看笔记向小白讲清"大模型是什么、怎么训练、为何会幻觉"

通关标准独立配好环境并跑通流式输出与结构化输出

通关标准能画出 RAG 全流程框图，并解释分块与检索优化的作用

通关标准能说清 Function Calling 与 MCP 各自解决的问题

通关标准五个里程碑项目全部跑通，且能"改坏一处再修好"

通关标准已沉淀至少 1 个属于自己的 Skill

适合：有任意语言工程经验、能独立 debug，但对 LLM 体系不熟。策略：原理章"跳读关键课时、不追细节"，第 4 章起全线加速，最后一周用自己的真实项目替代书中示例做收官作业。

原理速通

第 1–4 章 · 精选约 12 课时

一天补原理，一周能调 API Hello World → 翻译器

第 1–3 章只读本质类课时：ChatGPT 的本质、文字接龙×2、RLHF 三步骤、涌现、CoT、Temperature/Top-p、幻觉
第 4 章全部实战课时：API 参数、多轮对话、流式、Prompt 五要素、结构化输出

产出：多轮 + 流式 + 结构化输出三段式 demo，参数随手可调

知识 + 工具

第 5–6 章 · 深读实战

先把书里的技术用到自己文档上 RAG → FC

第 5 章：精读检索优化相关课时（Chunking、元数据、BM25+Rerank、HNSW），给自己的一份长文档搭 RAG 问答
第 6 章：跑通装备查询，重点研究 tools 的 JSON Schema 描述写法与参数校验

产出：个人文档知识库问答 + 一个自定义函数调用

协议 + 框架

第 7–8 章 · 主线

统一接口，告别重复胶水 MCP → LangChain

第 7 章：吃透三原语与通信协议，用 stdio/HTTP 传输封装并发布一个自己的 MCP Server
第 8 章：理解 LangChain 六大组件与 LCEL 管道，用组件重写第 5 章的 RAG

产出：1 个自建 MCP Server + 组件化重写后的 RAG 应用

白盒工作流

第 9 章 · 全部课时

把"黑盒调用"升级为"白盒流程" LangGraph

搭 StateGraph，用条件边做质量路由（字数校验 + 重试上限）
用 MemorySaver + interrupt_before 实现人工审核暂停点，跑通两次 invoke 的恢复流程

产出：一条"生成→人工审核→发布"的含人工作流，并画出状态图

Skill + Agent

第 10–11 章 · 深读

把个人能力沉淀成团队资产 Skill → Agent

第 10 章：按 description 公式为团队写一个可复用 Skill（如代码评审/Commit 规范），用 ~20 条查询测试触发率
第 11 章：精读架构五模块与四种记忆，用 LangGraph 实现旅行 Agent 并对比单体/模块化取舍

产出：1 个团队 Skill（含触发测试记录）+ 1 个带记忆的 Agent

多智能体 + 工程化

第 12–13 章 · 应用到自己项目

用真实业务收官 CrewAI → Loop Engineering

第 12 章：跑通考试系统，把"确定性逻辑用代码、创造性环节用 AI"的成本优化原则套到自己的业务
第 13 章（选读）：理解"给 Agent 角色而非任务"、接口才是落地瓶颈——审视自己系统里哪些能力该被封装成 CLI/MCP

产出：把自己手头一个重复性工作流改造成人机协作 Agent

通关标准能默画全书能力演进七阶段图，并指出任一新技术所处位置

通关标准一句话说清 RAG / FC / MCP / Agent 各自解决什么问题、彼此如何接力

通关标准能解释"能用 Chain 就别用 Agent"背后的成本与可控性取舍

通关标准用 checkpointer 实现过一次 human-in-the-loop 暂停与恢复

通关标准已按"功能+触发词+场景"公式写过 description 并实测触发

通关标准结语四条设计原则能逐条对应到自己项目的真实决策

适合：已在日常使用 LLM/Agent 提效、对概念不陌生，想冲架构理解与生产落地。策略：不追求全书平推，只对第 5、9、10、11、12、13 章深读重做；每读完一个能力模块，立刻用"重写现有实现"来验证理解。

架构精读

第 11 章 · 全部 9 课时

把 Agent 拆到螺丝钉 PTA / ReAct / 记忆 / 推理模式

对照"感知—思考—行动"循环理解五模块，讲清 PTA 框架与 ReAct 实现的关系
分别实现一次 Plan-then-Execute 与 ReAct，对比两者在 Prompt 与调用次数上的本质差异
为 Agent 接入短期 + 长期两级记忆，理解"遗忘"的删除/压缩/降级策略

产出：手写一个约 200 行的 mini ReAct 循环（不用框架）

工作流重构

第 8–9 章 · 对照重做

把现有 Prompt 应用白盒化 LangGraph

选一个自己正在用的"一次性 Prompt 应用"，用 StateGraph 拆成多节点状态流
加条件路由（区分简单/复杂请求）、循环重试与人工确认点，比较重构前后的可控性

产出：一份"重构前后对比 + 状态图"，沉淀为团队设计文档（正好实践 Spec-Coding）

封装 + 多智能体

第 10、12 章 · 深读

从单点能力到群体协作 Skill → CrewAI / A2A

按"渐进加载三层"重构自己的 Skill，用评估查询集把 description 触发率调到 ~100%
用 CrewAI 把一个真实业务拆成 Manager + Worker 角色，比较 Sequential / Hierarchical / 混合架构的取舍
浏览 A2A 协议与 Agent Card，思考跨系统 Agent 互操作的接入点

产出：一个跑通真实业务的多 Agent 系统，并记录 Token 成本对比

W4+

前沿与瓶颈

第 13 章 · 2026 订阅更新

从"写任务"到"定义角色" Loop Engineering / 接口

精读 Loop Engineering：LOOP.md（岗位职责）+ STATE.md（状态落盘）+ gate.yaml（机械防线）三件套
把书中"Verifier Ladder"思想用于自己的自动化：CI → 独立验证 Agent → 机械 gate，逐层加码
回到第 5 章补检索优化进阶（Rerank、Agentic RAG），并审视自己系统的"接口瓶颈"——优先 CLI、其次 MCP，避免浏览器自动化

产出：把 1 个岗位职责写成 LOOP.md 并试运行一周；审计并 CLI 化 1 个内部接口

通关标准能讲清 PTA 与 ReAct 的关系、Thought 为何要拆成"规划 + 推理"两层

通关标准四种记忆（短期/工作/长期/情景）能对号入座到具体框架与数据结构

通关标准能给出 CoT / ToT / Self-Reflection 在成本与可靠性上的工程取舍建议

通关标准至少完成一次"把任务指令升级为角色 Loop"并说明 Gate 防线设计

通关标准能指出自己业务中"Agent 落地第一道坎"（接口）并给出改造方案

通用执行建议：每天 45–90 分钟，先跑代码再读原理；每周用一个番茄钟做"主动回忆"自测（合上页面默写该周知识地图）；跑项目的优先级永远高于做笔记——书中每个里程碑都在 samples/ 目录有可运行代码，跑通 > 抄完。

壹全书主线：两条线索贯穿始终

主线一 · 能力演进主线

主线二 · 底层原理主线