Prompt 与上下文工程:模型这一步该看到什么 系列精华 · 六篇正文每篇一页:上下文是有限、有序、有版本的资源 2026 17 页 查看 查看 全屏播放 · PDF Prompt 与上下文工程:模型这一步该看到什么 系列精华 · 六篇正文每篇一页:上下文是有限、有序、有版本的资源 2026/10/11 · 17 页 · 系列 《Prompt 与上下文工程》
模型作为组件:契约、失效模式与选型 系列精华 · 六篇正文每篇一页:给一个没有规格书的组件写规格书 2026 19 页 查看 查看 全屏播放 · PDF 模型作为组件:契约、失效模式与选型 系列精华 · 六篇正文每篇一页:给一个没有规格书的组件写规格书 2026/10/04 · 19 页 · 系列 《模型作为组件》
程序员的英语:从六级到海外工作生活 每天 30 分钟 + 通勤时间,一年的练法与手机上的资料 2026 25 页 查看 查看 全屏播放 · PDF 程序员的英语:从六级到海外工作生活 每天 30 分钟 + 通勤时间,一年的练法与手机上的资料 2026/09/30 · 25 页
AI-Infra 开源贡献指南 系列精华 · 读懂 → 找到 → 做出 → 两个真实 PR,以 PyTorch 与 vLLM 为例 2026 11 页 查看 查看 全屏播放 · PDF AI-Infra 开源贡献指南 系列精华 · 读懂 → 找到 → 做出 → 两个真实 PR,以 PyTorch 与 vLLM 为例 2026/09/27 · 11 页 · 系列 《AI-Infra 开源贡献指南》
AI 平台工程:资源层与交付层 系列精华 · 八篇正文每篇一页:引擎的需求 → K8s 的空缺 → 平台的机制 → 代价 2026 16 页 查看 查看 全屏播放 · PDF AI 平台工程:资源层与交付层 系列精华 · 八篇正文每篇一页:引擎的需求 → K8s 的空缺 → 平台的机制 → 代价 2026/09/22 · 16 页 · 系列 《AI 平台工程》
扩散模型推理基础设施:从一次去噪到一个生成服务 系列精华 · 九篇正文每篇一页,每一类优化都记回第一篇的那张账 2026 17 页 查看 查看 全屏播放 · PDF 扩散模型推理基础设施:从一次去噪到一个生成服务 系列精华 · 九篇正文每篇一页,每一类优化都记回第一篇的那张账 2026/09/13 · 17 页 · 系列 《扩散模型推理基础设施》
RL 后训练基础设施:rollout 与训练如何共享一组 GPU 系列精华 · 八篇正文每篇一页,一本账:FLOP · 字节 · 秒 2026 17 页 查看 查看 全屏播放 · PDF RL 后训练基础设施:rollout 与训练如何共享一组 GPU 系列精华 · 八篇正文每篇一页,一本账:FLOP · 字节 · 秒 2026/09/03 · 17 页 · 系列 《RL 后训练基础设施》
大模型推理系统揭秘:从 vLLM 看 LLM Serving 核心技术 系列精华 · 十四篇正文每篇一页,围绕「动态请求 + KV 状态 + GPU 资源」 2026 24 页 查看 查看 全屏播放 · PDF 大模型推理系统揭秘:从 vLLM 看 LLM Serving 核心技术 系列精华 · 十四篇正文每篇一页,围绕「动态请求 + KV 状态 + GPU 资源」 2026/08/25 · 24 页 · 系列 《大模型推理系统揭秘》
用 Markdown 写在线 PPT reveal.js + Jekyll 演示 / 使用说明 2026 16 页 查看 查看 全屏播放 · PDF 用 Markdown 写在线 PPT reveal.js + Jekyll 演示 / 使用说明 2026/08/01 · 16 页
大规模训练工程:从并行策略到容错恢复 系列精华 · 八篇正文每篇一页,围绕四种状态:算账、切分、落盘、重建、稳数值、看指标 2026 19 页 查看 查看 全屏播放 · PDF 大规模训练工程:从并行策略到容错恢复 系列精华 · 八篇正文每篇一页,围绕四种状态:算账、切分、落盘、重建、稳数值、看指标 2026/07/29 · 19 页 · 系列 《大规模训练工程》
通信与互联:从 NCCL 到 RDMA 系列精华 · 八篇正文每篇一页,每页算两本账:带宽的账与延迟的账 2026 18 页 查看 查看 全屏播放 · PDF 通信与互联:从 NCCL 到 RDMA 系列精华 · 八篇正文每篇一页,每页算两本账:带宽的账与延迟的账 2026/06/27 · 18 页 · 系列 《通信与互联》
GPU Kernel 工程:从 CUDA 执行模型到 FlashAttention 系列精华 · 十一篇正文每篇一页,按 ↓ 看字节、FLOPs 与 Roofline 上的位置 2026 23 页 查看 查看 全屏播放 · PDF GPU Kernel 工程:从 CUDA 执行模型到 FlashAttention 系列精华 · 十一篇正文每篇一页,按 ↓ 看字节、FLOPs 与 Roofline 上的位置 2026/05/20 · 23 页 · 系列 《GPU Kernel 工程》
多模态:从视觉编码器到扩散模型 系列精华 · 九篇正文每篇一页,按 ↓ 看玩具实验的图与数字 2026 28 页 查看 查看 全屏播放 · PDF 多模态:从视觉编码器到扩散模型 系列精华 · 九篇正文每篇一页,按 ↓ 看玩具实验的图与数字 2026/05/09 · 28 页 · 系列 《多模态》
高效推理与压缩(算法侧):解码、投机、量化与 KV 系列精华 · 六篇正文每篇一页,按 ↓ 看误差模型、区间与退化在哪 2026 19 页 查看 查看 全屏播放 · PDF 高效推理与压缩(算法侧):解码、投机、量化与 KV 系列精华 · 六篇正文每篇一页,按 ↓ 看误差模型、区间与退化在哪 2026/05/01 · 19 页 · 系列 《高效推理与压缩(算法侧)》
后训练:从 SFT 到可验证奖励 系列精华 · 八篇正文每篇一页,按 ↓ 看公式、账与配方里的那一行 2026 24 页 查看 查看 全屏播放 · PDF 后训练:从 SFT 到可验证奖励 系列精华 · 八篇正文每篇一页,按 ↓ 看公式、账与配方里的那一行 2026/04/23 · 24 页 · 系列 《后训练》
预训练:从 tokenizer 到训练配方 系列精华 · 先在笔记本上跑通一遍,再给四个决定各算一笔账 2026 25 页 查看 查看 全屏播放 · PDF 预训练:从 tokenizer 到训练配方 系列精华 · 先在笔记本上跑通一遍,再给四个决定各算一笔账 2026/04/13 · 25 页 · 系列 《预训练》
Transformer 原理与实现:从 GPT-2 总览到手搓 GPT-2 系列精华 · 四篇正文,按 ↓ 看推导、代码与数字 2026 15 页 查看 查看 全屏播放 · PDF Transformer 原理与实现:从 GPT-2 总览到手搓 GPT-2 系列精华 · 四篇正文,按 ↓ 看推导、代码与数字 2026/04/09 · 15 页 · 系列 《Transformer 原理与实现》
现代 LLM 结构:从 GPT-2 到今天的演进 系列精华 · 十篇正文,按 ↓ 看结构改动与成本 2026 29 页 查看 查看 全屏播放 · PDF 现代 LLM 结构:从 GPT-2 到今天的演进 系列精华 · 十篇正文,按 ↓ 看结构改动与成本 2026/04/09 · 29 页 · 系列 《现代 LLM 结构》
深度学习基础:从反向传播到残差 系列精华 · 九篇正文每篇一页,按 ↓ 看实验与原论文图 2026 28 页 查看 查看 全屏播放 · PDF 深度学习基础:从反向传播到残差 系列精华 · 九篇正文每篇一页,按 ↓ 看实验与原论文图 2026/03/29 · 28 页 · 系列 《深度学习基础》
LLM 时代的经典机器学习:只讲它在哪里重现 系列精华 · 十篇正文每篇一页,按 ↓ 看机制与真实案例 2026 35 页 查看 查看 全屏播放 · PDF LLM 时代的经典机器学习:只讲它在哪里重现 系列精华 · 十篇正文每篇一页,按 ↓ 看机制与真实案例 2026/03/09 · 35 页 · 系列 《LLM 时代的经典机器学习》
PyTorch 深度实践:从 Tensor 到深度学习运行时 系列精华 · 十篇正文每篇一页,按 ↓ 看机制图与数字 2026 27 页 查看 查看 全屏播放 · PDF PyTorch 深度实践:从 Tensor 到深度学习运行时 系列精华 · 十篇正文每篇一页,按 ↓ 看机制图与数字 2026/02/26 · 27 页 · 系列 《PyTorch 深度实践》
C++ 在 AI-Infra:从对象模型到算子扩展 系列精华 · 八篇正文每篇一页,以 PyTorch 源码为例、Java 为参照 2026 20 页 查看 查看 全屏播放 · PDF C++ 在 AI-Infra:从对象模型到算子扩展 系列精华 · 八篇正文每篇一页,以 PyTorch 源码为例、Java 为参照 2026/02/15 · 20 页 · 系列 《C++ 在 AI-Infra》
Java程序员的Python课 用 Java 思维快速理解 Python 的关键差异 2026 16 页 查看 查看 全屏播放 · PDF Java程序员的Python课 用 Java 思维快速理解 Python 的关键差异 2026/01/31 · 16 页
Python 在 AI-Infra:从语言机制到生产交付 系列精华 · 七篇正文每篇一页,按 ↓ 看机制、数字与误区 2026 18 页 查看 查看 全屏播放 · PDF Python 在 AI-Infra:从语言机制到生产交付 系列精华 · 七篇正文每篇一页,按 ↓ 看机制、数字与误区 2026/01/30 · 18 页 · 系列 《Python 在 AI-Infra》
算法工程师的工具箱:从一个想法到一次能跑的实验 系列精华 · 六篇正文每篇一页,按 ↓ 展开细节 2026 23 页 查看 查看 全屏播放 · PDF 算法工程师的工具箱:从一个想法到一次能跑的实验 系列精华 · 六篇正文每篇一页,按 ↓ 展开细节 2026/01/22 · 23 页 · 系列 《算法工程师的工具箱》
算法工程师的数学:读公式不卡壳的最小集 系列精华 · 八篇正文每篇一页,按 ↓ 展开细节 2026 32 页 查看 查看 全屏播放 · PDF 算法工程师的数学:读公式不卡壳的最小集 系列精华 · 八篇正文每篇一页,按 ↓ 展开细节 2026/01/15 · 32 页 · 系列 《算法工程师的数学》
面试手撕代码:从 LeetCode 中等题到 Transformer 组件 系列精华 · 十九篇的骨架、边界与追问,按 ↓ 看每个模式的一句话 2025 17 页 查看 查看 全屏播放 · PDF 面试手撕代码:从 LeetCode 中等题到 Transformer 组件 系列精华 · 十九篇的骨架、边界与追问,按 ↓ 看每个模式的一句话 2025/12/20 · 17 页 · 系列 《面试手撕代码》