这个系列的一句话主张
每一次通信都在算两本账——带宽的账与延迟的账——分清在算哪本账，才知道该换算法、该换硬件、还是什么都不用换。
\[T = \underbrace{\text{步数} \times \alpha}_{\text{延迟的账}} + \underbrace{\text{每 rank 字节数} / \beta}_{\text{带宽的账}},\qquad
\text{拐点}\ S^* = n\,\alpha\,\beta\]
| 账 |
看什么 |
| 带宽 (\beta) |
链路速率、算法的带宽效率、协议的有效载荷比例 |
| 延迟 (\alpha) |
步数、握手次数、kernel 启动、proxy 线程响应；MoE decode 再加发起速率 |
八篇同一个四段法：算一算 → 看一看 → 测一测 → 比一比；留下诊断工具集 comm-probe。
COMMENTS
评论存放在 GitHub Discussions， 用 GitHub 账号登录即可发表，支持 Markdown。 想针对正文某句话说？选中那段文字，点浮出的「评论」即可划线评论；觉得哪里写错了，发表时勾上「同时提交 Issue」。 有人回复你时 GitHub 会按你的通知设置发邮件，不用守在这里。