系列文章

成体系地读：按学习地图组织，地图 → 系列 → 单篇，点开一层即可展开
AI 算法工程师学习地图14 个系列 · 117 篇地图 ›
  1. 01 算法工程师的数学：读公式不卡壳的最小集 入门 9 篇
    1. 算法工程师的数学：读公式不卡壳的最小集（总纲）总览
    2. 算法工程师的数学：读公式不卡壳的最小集（幻灯片）分享用 deck
    3. 向量、矩阵与形状——一个 token 过一层要算多少2026-01-08
    4. 内积、范数与余弦相似度2026-01-09
    5. 正交与旋转、特征值与 SVD——从 RoPE 到 LoRA2026-01-10
    6. 概率入门——语言模型是一个条件分布2026-01-11
    7. 从最大似然到交叉熵——第一个要会推的 loss2026-01-12
    8. 熵、交叉熵与 KL——从困惑度到 DPO2026-01-13
    9. 导数、梯度与链式法则——softmax 的梯度与策略梯度2026-01-14
    10. 统计推断与拟合——评测的置信区间与 scaling law2026-01-15
    11. 系列总结与通关自测2026-01-15
  2. 02 算法工程师的工具箱：从一个想法到一次能跑的实验 入门 7 篇
    1. 算法工程师的工具箱：从一个想法到一次能跑的实验（总纲）总览
    2. 算法工程师的工具箱：从一个想法到一次能跑的实验（幻灯片）分享用 deck
    3. Python 使用层——读懂训练代码的语法、流式过一遍语料、把实验写成脚本2026-01-17
    4. 数据科学三剑客——NumPy 的形状直觉、Pandas 的错误分析、Matplotlib 的曲线2026-01-18
    5. PyTorch 使用层（上）——五个对象与二十行训练循环2026-01-19
    6. PyTorch 使用层（下）——混合精度、显存的账与多卡启用2026-01-20
    7. Hugging Face 生态——六个库与一次 LoRA SFT 的组装2026-01-21
    8. GPU 直觉与实验管理——两个上限、四块显存、能复现2026-01-22
    9. 系列总结与通关自测2026-01-22
  3. 03 LLM 时代的经典机器学习：只讲它在哪里重现 入门 11 篇
    1. LLM 时代还要学经典机器学习吗：只讲它在哪里重现（总纲）总览
    2. LLM 时代的经典机器学习：只讲它在哪里重现（幻灯片）分享用 deck
    3. 什么是学习——划分、泛化、过拟合与偏差-方差2026-02-28
    4. 线性回归——最小二乘、梯度下降与 Ridge / Lasso2026-03-01
    5. 逻辑回归与奖励模型——每个分类头的原型2026-03-02
    6. 三个基础分类器——朴素贝叶斯、KNN 与决策树2026-03-03
    7. SVM 与核方法——最大间隔、核技巧与 attention 的远亲2026-03-04
    8. 集成——随机森林、梯度提升与数据质量分类器的算力账2026-03-05
    9. 聚类——K-Means、DBSCAN 与「这批语料里有什么」2026-03-06
    10. 降维——PCA、SVD、t-SNE / UMAP 与 embedding 的各向异性2026-03-07
    11. 去重——MinHash 与 LSH 的概率2026-03-08
    12. 评估——从混淆矩阵到 judge 的一致性2026-03-09
    13. 系列总结与通关自测2026-03-09
  4. 04 深度学习基础：从反向传播到残差 入门 11 篇
    1. 深度学习基础：从反向传播到残差（总纲）总览
    2. 深度学习基础：从反向传播到残差（幻灯片）分享用 deck
    3. 深度模型演进史——从感知机到 Transformer2026-03-23
    4. 损失函数——怎样把「好」写成一个可求导的数2026-03-23
    5. 反向传播——手推一个两层网络2026-03-24
    6. 激活函数——从 sigmoid 到 SwiGLU2026-03-24
    7. 训练为什么不稳定——初始化、归一化与残差2026-03-25
    8. 优化器——从 SGD 到 AdamW 与学习率调度2026-03-26
    9. 正则化与泛化——为什么参数比样本多却不过拟合2026-03-27
    10. CNN——从 LeNet 到 ResNet，再到 ViT2026-03-28
    11. Embedding 与表示学习——从查表到句向量2026-03-28
    12. RNN——从 LSTM 到 attention 的诞生2026-03-29
    13. 系列总结与通关自测2026-03-29
  5. 05 预训练：从 tokenizer 到训练配方 进阶 6 篇
    1. 预训练：从 tokenizer 到训练配方（总纲）总览
    2. 预训练：从 tokenizer 到训练配方（幻灯片）分享用 deck
    3. 一次预训练是怎么跑起来的：从两个网页文件到一个会续写英文的模型2026-04-09
    4. 分词与词表：BPE、词表大小与 token 效率2026-04-10
    5. Scaling law：从 Chinchilla 到"过训练"，算力怎么分给参数与数据2026-04-11
    6. 预训练数据工程：从 Common Crawl 到 15T token，去重、过滤与配比的账2026-04-12
    7. 训练配方与稳定性：学习率、batch、调度与 loss spike2026-04-13
    8. 系列总结与通关自测2026-04-13
  6. 06 后训练：从 SFT 到可验证奖励 进阶 9 篇
    1. 后训练：从 SFT 到可验证奖励（总纲）总览
    2. 后训练：从 SFT 到可验证奖励（幻灯片）分享用 deck
    3. SFT：指令数据、chat template、loss mask 与参数高效微调2026-04-16
    4. 偏好数据与奖励模型：Bradley-Terry、pairwise loss 与 reward hacking2026-04-17
    5. 在线 RL：PPO、GRPO 与 RLHF 三件套2026-04-18
    6. 离线 RL：从 RLHF 目标推出 DPO 及其变体2026-04-19
    7. 推理模型与可验证奖励：R1 的配方、PRM 与 test-time compute2026-04-20
    8. Agent 与工具调用的 RL：多轮环境、轨迹数据与延后的奖励2026-04-21
    9. 蒸馏：logits 级、序列级与 on-policy2026-04-22
    10. 评测：benchmark、LLM-as-judge、Arena 与污染2026-04-23
    11. 系列总结与通关自测2026-04-23
  7. 07 读 Hugging Face 源码：从 from_pretrained 到 GRPO 的 loss 深入 5 篇
    1. 读 Hugging Face 源码：从 from_pretrained 到 GRPO 的 loss（总纲）总览
    2. transformers 模型侧——from_pretrained 怎么把三个文件变成 nn.Module，forward 怎么走到 loss2026-05-22
    3. generate——一次采样的完整调用链2026-05-23
    4. tokenizers 与 datasets——从 messages 到 input_ids，从 Arrow 文件到 collate_fn2026-05-24
    5. peft 与 trl——LoRA 怎么挂上去，SFT / DPO / GRPO 的 loss 各在哪一行2026-05-25
    6. 系列总结与通关自测2026-05-25
  8. 08 LoRA 专题：SFT 的默认微调方式 进阶 4 篇
    1. LoRA 专题：SFT 的默认微调方式，从低秩假设到多租户服务（总纲）总览
    2. 低秩假设：为什么两个瘦矩阵够用，以及它省了哪几本账2026-05-27
    3. 选参：r、target_modules、alpha、lr 与 QLoRA / DoRA / PiSSA 各让模型变成什么2026-05-28
    4. 工程：adapter 文件、合并、多 LoRA 服务与参考模型2026-05-29
    5. 系列总结与通关自测2026-05-29
  9. 09 高效推理与压缩（算法侧）：解码、投机、量化与 KV 进阶 7 篇
    1. 高效推理与压缩（算法侧）：解码、投机、量化与 KV（总纲）总览
    2. 高效推理与压缩（算法侧）：解码、投机、量化与 KV（幻灯片）分享用 deck
    3. 解码策略、采样与约束生成2026-04-26
    4. 投机解码：草稿、接受率与树2026-04-27
    5. 训练后量化：误差模型、GPTQ、AWQ 与旋转2026-04-28
    6. 量化感知训练、低比特与量化模型的评测2026-04-29
    7. KV cache 压缩：量化、驱逐与稀疏 attention2026-04-30
    8. 剪枝、深度缩放与小模型配方2026-05-01
    9. 系列总结与通关自测2026-05-01
  10. 10 多模态：从视觉编码器到扩散模型 进阶 10 篇
    1. 多模态：从视觉编码器到扩散模型（总纲）总览
    2. 多模态：从视觉编码器到扩散模型（幻灯片）分享用 deck
    3. VLM 的结构（上）：视觉编码器——CLIP、SigLIP 与自监督 ViT2026-05-03
    4. VLM 的结构（下）：connector、注入方式与分辨率策略2026-05-04
    5. VLM 的训练：数据、阶段与评测2026-05-05
    6. 语音（上）：从波形到 token——mel 谱、Whisper 与神经 codec2026-05-06
    7. 语音（下）：语音理解、语音生成与全双工2026-05-06
    8. 扩散模型（上）：DDPM——加噪、去噪与「预测噪声」2026-05-07
    9. 扩散模型（下）：score matching、flow matching 与 classifier-free guidance2026-05-07
    10. Latent diffusion、DiT 与文生图配方2026-05-08
    11. 自回归图像生成与统一模型2026-05-09
    12. 系列总结与通关自测2026-05-09
  11. 共享 Python 在 AI-Infra：从语言机制到生产交付 进阶 11 篇
    1. Python 在 AI-Infra：从语言机制到生产交付（总纲）总览
    2. Python 在 AI-Infra：从语言机制到生产交付（幻灯片）分享用 deck
    3. 代码如何被执行——执行模型、作用域、导入与异常2026-01-24
    4. 对象如何工作——对象模型、协议、装饰器与生成器2026-01-24
    5. 类型系统——类型表达与 typing 工具箱2026-01-25
    6. 类型系统——类型信息的分发与消费2026-01-25
    7. 类型系统——数据契约设计2026-01-25
    8. 并发、异步与任务协作2026-01-26
    9. Python的动态机制及工程实践2026-01-27
    10. 内存管理与优化2026-01-28
    11. 单元测试、问题定位与调试实践2026-01-29
    12. 项目工程化与生产交付2026-01-30
    13. 系列总结与通关自测2026-01-30
  12. 共享 PyTorch 深度实践：从 Tensor 到深度学习运行时 深入 11 篇
    1. PyTorch 深度实践：从 Tensor 到深度学习运行时（总纲）总览
    2. PyTorch 深度实践：从 Tensor 到深度学习运行时（幻灯片）分享用 deck
    3. PyTorch 整体介绍2026-02-17
    4. Tensor 与内存布局2026-02-18
    5. 自动求导与动态计算图2026-02-19
    6. nn.Module 与训练系统2026-02-20
    7. Dispatcher 与算子系统2026-02-21
    8. C++ 扩展与自定义算子2026-02-22
    9. 编译执行与图优化2026-02-23
    10. 性能优化与调试2026-02-24
    11. 分布式 PyTorch2026-02-25
    12. PyTorch 的工程体系——一次改动如何安全地到达用户2026-02-26
    13. 系列总结与通关自测2026-02-26
  13. 共享 Transformer 原理与实现：从论文到手搓 GPT-2 进阶 5 篇
    1. Transformer 原理与实现：从论文到手搓 GPT-2（总纲）总览
    2. Transformer 原理与实现：从论文到手搓 GPT-2（幻灯片）分享用 deck
    3. Transformer 长什么样——从一句话到下一个 token2026-03-30
    4. 一个 token 的旅程——训练侧与推理侧2026-03-31
    5. 手搓 GPT（上）——nanoGPT model.py 逐行解析2026-03-31
    6. 手搓 GPT（下）——nanoGPT train.py 与训一个会续写的模型2026-04-01
    7. Transformer 原理与实现：系列总结与通关自测2026-04-01
  14. 共享 现代 LLM 结构：从 GPT-2 到今天的演进 进阶 11 篇
    1. 现代 LLM 结构：从 GPT-2 到今天的演进（总纲）总览
    2. 现代 LLM 结构：从 GPT-2 到今天的演进（幻灯片）分享用 deck
    3. 从 GPT-2 到 Llama——五处改动与参数量2026-04-02
    4. 前向的算量与访存量2026-04-03
    5. 位置编码与外推2026-04-03
    6. Attention 变体与 KV cache2026-04-04
    7. 长上下文的成本与结构手段2026-04-04
    8. MoE 的路由、激活参数量与通信形态2026-04-05
    9. MTP——改训练目标而不改主干的多 token 预测2026-04-05
    10. 投机解码——草稿、验证与收益条件2026-04-06
    11. 多模态：vision encoder 的算量与 image token 的 KV 代价2026-04-07
    12. 浮点格式、数值稳定性与混合精度2026-04-08
    13. 现代 LLM 结构：系列总结与通关自测2026-04-09
AI-Infra 工程师学习地图14 个系列 · 127 篇地图 ›
  1. 01 Python 在 AI-Infra：从语言机制到生产交付 进阶 11 篇
    1. Python 在 AI-Infra：从语言机制到生产交付（总纲）总览
    2. Python 在 AI-Infra：从语言机制到生产交付（幻灯片）分享用 deck
    3. 代码如何被执行——执行模型、作用域、导入与异常2026-01-24
    4. 对象如何工作——对象模型、协议、装饰器与生成器2026-01-24
    5. 类型系统——类型表达与 typing 工具箱2026-01-25
    6. 类型系统——类型信息的分发与消费2026-01-25
    7. 类型系统——数据契约设计2026-01-25
    8. 并发、异步与任务协作2026-01-26
    9. Python的动态机制及工程实践2026-01-27
    10. 内存管理与优化2026-01-28
    11. 单元测试、问题定位与调试实践2026-01-29
    12. 项目工程化与生产交付2026-01-30
    13. 系列总结与通关自测2026-01-30
  2. 02 C++ 在 AI-Infra：从对象模型到算子扩展 进阶 10 篇
    1. C++ 在 AI-Infra：从对象模型到算子扩展（总纲）总览
    2. C++ 在 AI-Infra：从对象模型到算子扩展（幻灯片）分享用 deck
    3. 编译模型——从一个 .cpp 到可加载的 .so2026-02-04
    4. 工程布局——命名空间、库的分层与 CMake2026-02-04
    5. 值、引用与所有权——对象模型与 RAII2026-02-06
    6. 模板与泛型编程2026-02-07
    7. 多态与类型擦除——运行时如何选择实现2026-02-08
    8. 宏、静态注册与代码生成2026-02-10
    9. 并发、内存模型、TLS 与守卫2026-02-12
    10. 与 Python 之间——pybind11、Python C API 与 ABI2026-02-14
    11. 构建、调试与测试工具链2026-02-15
    12. 系列总结与通关自测2026-02-15
  3. 03 PyTorch 深度实践：从 Tensor 到深度学习运行时 深入 11 篇
    1. PyTorch 深度实践：从 Tensor 到深度学习运行时（总纲）总览
    2. PyTorch 深度实践：从 Tensor 到深度学习运行时（幻灯片）分享用 deck
    3. PyTorch 整体介绍2026-02-17
    4. Tensor 与内存布局2026-02-18
    5. 自动求导与动态计算图2026-02-19
    6. nn.Module 与训练系统2026-02-20
    7. Dispatcher 与算子系统2026-02-21
    8. C++ 扩展与自定义算子2026-02-22
    9. 编译执行与图优化2026-02-23
    10. 性能优化与调试2026-02-24
    11. 分布式 PyTorch2026-02-25
    12. PyTorch 的工程体系——一次改动如何安全地到达用户2026-02-26
    13. 系列总结与通关自测2026-02-26
  4. 04 Transformer 原理与实现：从论文到手搓 GPT-2 进阶 5 篇
    1. Transformer 原理与实现：从论文到手搓 GPT-2（总纲）总览
    2. Transformer 原理与实现：从论文到手搓 GPT-2（幻灯片）分享用 deck
    3. Transformer 长什么样——从一句话到下一个 token2026-03-30
    4. 一个 token 的旅程——训练侧与推理侧2026-03-31
    5. 手搓 GPT（上）——nanoGPT model.py 逐行解析2026-03-31
    6. 手搓 GPT（下）——nanoGPT train.py 与训一个会续写的模型2026-04-01
    7. Transformer 原理与实现：系列总结与通关自测2026-04-01
  5. 05 现代 LLM 结构：从 GPT-2 到今天的演进 进阶 11 篇
    1. 现代 LLM 结构：从 GPT-2 到今天的演进（总纲）总览
    2. 现代 LLM 结构：从 GPT-2 到今天的演进（幻灯片）分享用 deck
    3. 从 GPT-2 到 Llama——五处改动与参数量2026-04-02
    4. 前向的算量与访存量2026-04-03
    5. 位置编码与外推2026-04-03
    6. Attention 变体与 KV cache2026-04-04
    7. 长上下文的成本与结构手段2026-04-04
    8. MoE 的路由、激活参数量与通信形态2026-04-05
    9. MTP——改训练目标而不改主干的多 token 预测2026-04-05
    10. 投机解码——草稿、验证与收益条件2026-04-06
    11. 多模态：vision encoder 的算量与 image token 的 KV 代价2026-04-07
    12. 浮点格式、数值稳定性与混合精度2026-04-08
    13. 现代 LLM 结构：系列总结与通关自测2026-04-09
  6. 06 GPU Kernel 工程：从 CUDA 执行模型到 FlashAttention 深入 12 篇
    1. GPU Kernel 工程：从 CUDA 执行模型到 FlashAttention（总纲）总览
    2. GPU Kernel 工程：从 CUDA 执行模型到 FlashAttention（幻灯片）分享用 deck
    3. GPU 为什么这样设计——硬件结构与 Roofline2026-05-11
    4. CUDA 编程模型与第一个 kernel2026-05-12
    5. 访存合并与 elementwise kernel2026-05-13
    6. 共享内存与 reduction——softmax、LayerNorm 与 online softmax2026-05-14
    7. GEMM——从 naive 到分块2026-05-15
    8. Tensor Core、CUTLASS 与 CuTe2026-05-16
    9. Triton——块级编程与编译器的边界2026-05-17
    10. Attention Kernel——FlashAttention 与 PagedAttention2026-05-18
    11. 量化与融合 kernel——推理系统的其余部分2026-05-19
    12. 剖析、测试与贡献——把 kernel 做成产品2026-05-20
    13. 从 CUDA 到昇腾——用 Ascend C 重写一个算子2026-05-20
    14. 系列总结与通关自测2026-05-20
  7. 07 通信与互联：从 NCCL 到 RDMA 深入 9 篇
    1. 通信与互联：从 NCCL 到 RDMA（总纲）总览
    2. 通信与互联：从 NCCL 到 RDMA（幻灯片）分享用 deck
    3. 集合通信原语与代价模型——α-β 模型与 ring all-reduce2026-06-03
    4. 硬件互联——PCIe、NVLink、NVSwitch 与网络拓扑2026-06-06
    5. RDMA 与 GPUDirect——绕过 CPU 和主机内存的数据通路2026-06-10
    6. NCCL 架构——拓扑探测、channel、算法与协议2026-06-13
    7. PyTorch 的通信栈——ProcessGroupNCCL、stream 语义与计算通信重叠2026-06-17
    8. nccl-tests、调优与排障——从带宽曲线到 hang2026-06-20
    9. 推理侧的通信——custom all-reduce 与 KV 传输2026-06-24
    10. MoE 的通信——all-to-all、DeepEP 与 GPU 发起的通信2026-06-27
    11. 系列总结与通关自测2026-06-27
  8. 08 大规模训练工程：从并行策略到容错恢复 深入 9 篇
    1. 大规模训练工程：从并行策略到容错恢复（总纲）总览
    2. 大规模训练工程：从并行策略到容错恢复（幻灯片）分享用 deck
    3. 训练任务的状态解剖——显存账与 MFU2026-07-15
    4. 并行策略全景——每种并行切的是哪种状态2026-07-17
    5. 三个框架——Megatron-LM、DeepSpeed 与 torchtitan 的架构对比与源码导读2026-07-19
    6. 千卡配置实战——并行搭配、micro-batch、激活重计算与 MFU 调优2026-07-21
    7. 分布式 checkpoint——格式、异步保存与重分片恢复2026-07-23
    8. 容错与弹性——故障率数学、straggler、SDC 与弹性训练2026-07-25
    9. 训练稳定性与数据管线——loss spike、梯度范数、数据混合与流式加载2026-07-27
    10. 长时训练的可观测与运维——从指标到 hang 排查2026-07-29
    11. 系列总结与通关自测2026-07-29
  9. 09 大模型推理系统揭秘：从 vLLM 看 LLM Serving Infra 核心技术 深入 16 篇
    1. 大模型推理系统揭秘：从 vLLM 看 LLM Serving Infra 核心技术（总纲）总览
    2. 大模型推理系统揭秘：从 vLLM 看 LLM Serving Infra 核心技术（幻灯片）分享用 deck
    3. 为什么 LLM Serving 比传统 DL 推理难？2026-08-12
    4. 如何衡量一个 LLM Serving 系统？2026-08-13
    5. 鸟瞰 vLLM：一个请求如何穿过整个推理系统？2026-08-14
    6. Scheduler：GPU 这一轮到底给谁用？2026-08-15
    7. KV Cache：LLM Serving 的第一号内存问题2026-08-16
    8. GPU 执行：如何让每个 Token 算得更快？2026-08-17
    9. 解码的扩展：采样、投机解码与结构化输出2026-08-18
    10. Multi-GPU：一张卡不够时如何扩展？2026-08-19
    11. PD 分离：从资源混部走向计算解耦2026-08-20
    12. 模型适配：如何跟上变化极快的模型世界？2026-08-21
    13. 请求形态的扩展：multi-LoRA 与多模态2026-08-22
    14. 硬件解耦：如何不让芯片差异污染 Serving 核心？2026-08-23
    15. Serving Infra 的下一站：从模型执行器到分布式智能操作系统2026-08-24
    16. 回到源码：一次请求在 vLLM 内部的真实旅程2026-08-25
    17. vLLM 与 SGLang：同一个请求穿过两套 Serving 系统2026-08-25
    18. 系列总结与通关自测2026-08-25
  10. 10 RL 后训练基础设施：rollout 与训练如何共享一组 GPU 深入 9 篇
    1. RL 后训练基础设施：rollout 与训练如何共享一组 GPU（总纲）总览
    2. RL 后训练基础设施：rollout 与训练如何共享一组 GPU（幻灯片）分享用 deck
    3. 负载画像——一步 RL 里发生什么2026-08-27
    4. 系统形态——共置、分离与异步2026-08-28
    5. 共置——训练器与推理引擎在同一组 GPU 上共存2026-08-29
    6. 权重同步——从训练分片到推理分片2026-08-30
    7. 异步与 off-policy——把同步的墙拆掉之后要补什么2026-08-31
    8. Agentic rollout——多轮、工具、沙箱与环境服务2026-09-01
    9. verl 源码导读——从一个 GRPO 配置追到每个 worker2026-09-02
    10. 配置、可观测与排障——从一张卡的比例到一条 hang 的排查2026-09-03
    11. 系列总结与通关自测2026-09-03
  11. 11 扩散模型推理基础设施：从一次去噪到一个生成服务 深入 10 篇
    1. 扩散模型推理基础设施：图像与视频生成的 serving（总纲）总览
    2. 扩散模型推理基础设施：从一次去噪到一个生成服务（幻灯片）分享用 deck
    3. 负载画像——一次生成在 GPU 上发生什么2026-09-05
    4. 单卡执行——attention 后端、编译、FP8 / INT4 与 offload2026-09-06
    5. 跨步冗余——TeaCache、First-Block Cache 一族的缓存与跳步2026-09-07
    6. 视频——长序列 attention 的账与稀疏化2026-09-08
    7. 多卡并行——序列并行、CFG 并行与 PipeFusion，为什么不是张量并行2026-09-09
    8. 少步与自回归——把步数变成系统参数2026-09-10
    9. serving 形态——请求、批、三段分离、附件、异步任务与成本2026-09-11
    10. 三个引擎的对照导读——同一张图的请求在 SGLang Diffusion、vLLM-Omni 与 xDiT 里各走过什么2026-09-12
    11. 配置、评测与排障——从一张卡的推导到一条伪影的排查2026-09-13
    12. 系列总结与通关自测2026-09-13
  12. 12 AI 平台工程：资源层与交付层 进阶 9 篇
    1. AI 平台工程：资源层与交付层（总纲）总览
    2. AI 平台工程：资源层与交付层（幻灯片）分享用 deck
    3. 引擎的需求清单与平台的整体架构2026-09-15
    4. 容器里的 GPU——驱动、CUDA、device plugin 与镜像2026-09-16
    5. AI 任务调度——gang scheduling、队列与拓扑感知2026-09-17
    6. GPU 共享与切分——MIG、时间片、MPS 与 HAMi2026-09-18
    7. 网络与存储——RDMA 进容器、并行文件系统与 checkpoint I/O2026-09-19
    8. Serving 平台——从 InferenceService 到 llm-d2026-09-20
    9. 模型网关与多租户——路由、配额与灰度2026-09-21
    10. 可观测、成本与 FinOps2026-09-22
    11. 系列总结与通关自测2026-09-22
  13. 13 AI-Infra 开源贡献指南 进阶 5 篇
    1. AI-Infra 开源贡献指南（总纲）总览
    2. AI-Infra 开源贡献指南（幻灯片）分享用 deck
    3. 读懂一个百万行的代码库2026-09-24
    4. 找到切入点——从 issue、RFC 到性能回归2026-09-25
    5. 做出一个能被合入的改动2026-09-26
    6. 两个真实 PR 的完整走读——PyTorch 与 vLLM2026-09-27
    7. 系列总结与通关自测2026-09-27
  14. 14 ML 编译器内部：从 SSA、MLIR 到 Triton 编译器 深入 即将发布 · 14 篇
AI 应用工程师学习地图7 个系列 · 20 篇地图 ›
  1. 01 模型作为组件：契约、失效模式与选型 入门 7 篇
    1. 模型作为组件：契约、失效模式与选型（总纲）总览
    2. 模型作为组件：契约、失效模式与选型（幻灯片）分享用 deck
    3. 失效模式——非确定性、幻觉、上下文与越界，把「模型会出错」拆成七条可检测的性质2026-09-29
    4. API 契约（一）——消息、工具调用、结构化输出与流式，四家 API 的共同骨架2026-09-30
    5. API 契约（二）——推理模型：thinking、effort 与跨轮的推理状态2026-10-01
    6. 成本与延迟的账——一次调用花多少钱、慢在哪一段2026-10-02
    7. 选型——榜单的失真、自己的评测集与供应商的弃用周期2026-10-03
    8. 客户端工程——重试、超时、幂等、限流与流式解析2026-10-04
    9. 系列总结与通关自测2026-10-04
  2. 02 Prompt 与上下文工程：模型这一步该看到什么 入门 7 篇
    1. Prompt 与上下文工程：模型这一步该看到什么（总纲）总览
    2. Prompt 与上下文工程：模型这一步该看到什么（幻灯片）分享用 deck
    3. 上下文的解剖——一次请求里模型看到的一切2026-10-06
    4. prompt 设计——稳定的模式与不稳定的措辞2026-10-07
    5. 结构化输出——约束解码、schema 设计与失败修复2026-10-08
    6. 上下文预算与压缩——给每一部分定配额，超了怎么办2026-10-09
    7. prompt caching 与上下文的排列2026-10-10
    8. prompt 当代码管——版本、评测、A/B，以及上下文 vs 检索2026-10-11
    9. 系列总结与通关自测2026-10-11
  3. 03 检索与知识接入：私域知识怎么进入模型 进阶 已发 6 / 8 篇
    1. 检索与知识接入：私域知识怎么进入模型（总纲）总览
    2. 进上下文还是进权重——知识类型决定接入方式2026-10-13
    3. 三类检索——词法、向量、结构化，coding agent 为什么只用 grep2026-10-14
    4. 文档解析与分块——检索失败的上游2026-10-15
    5. 索引、混合检索与 rerank2026-10-16
    6. 从流水线到 agentic retrieval2026-10-17
    7. 结构化知识——SQL、本体与 GraphRAG2026-10-18
  4. 04 工具、Agent 与 harness：模型怎么从回答变成做事 进阶 即将发布 · 10 篇
  5. 05 评测、可观测与可追溯：怎么知道改了之后更好了 进阶 即将发布 · 8 篇
  6. 06 生产化与运营：让 AI 应用可靠、可控、可持续地跑 进阶 即将发布 · 8 篇
  7. 07 产品与体验：把不确定的能力做成可信的产品 入门 即将发布 · 6 篇
其他系列1 个系列
  1. 面试手撕代码：从 LeetCode 中等题到 Transformer 组件 进阶 20 篇
    1. 面试手撕代码：从 LeetCode 中等题到 Transformer 组件（总纲）总览
    2. 面试手撕代码：从 LeetCode 中等题到 Transformer 组件（幻灯片）分享用 deck
    3. 数组、哈希与前缀和2025-12-02
    4. 双指针与滑动窗口2025-12-03
    5. 栈、单调栈与单调队列2025-12-04
    6. 链表2025-12-05
    7. 二叉树2025-12-06
    8. 图——BFS / DFS / 拓扑排序 / 并查集 / 最短路2025-12-07
    9. 二分——只有一个模板2025-12-08
    10. 堆、Top-K、区间与贪心2025-12-09
    11. 回溯2025-12-10
    12. 字符串2025-12-11
    13. 动态规划（一）——线性与二维2025-12-12
    14. 动态规划（二）——背包、区间、状态机、树形2025-12-13
    15. 设计题与数据结构实现2025-12-14
    16. 手撕 attention 家族2025-12-15
    17. 手撕 Transformer block 与反向传播2025-12-16
    18. 手撕 tokenizer 与解码2025-12-17
    19. 手撕损失函数与训练算法2025-12-18
    20. 手撕经典 ML 与评测指标2025-12-19
    21. Infra 岗手撕——并发与系统2025-12-20
    22. 系列总结与通关自测2025-12-20
ABOUT ME

天造之才，皆有其用。
振翅高飞，无须在梦中。

HOT TAGS
RECOMMEND
×