八篇怎么连起来:资源层与交付层
%%{init: {"flowchart": {"wrappingWidth": 160}}}%%
flowchart TB
P1["01 引擎的需求清单与整体架构<br/>K8s 的四个假设被 AI 负载逐条违背"]
subgraph RES["资源层:引擎之下"]
direction TB
P2["02 容器里的 GPU<br/>驱动、CUDA、device plugin"] --> P3["03 AI 任务调度<br/>gang、队列、拓扑感知"] --> P4["04 GPU 共享与切分<br/>MIG、时间片、HAMi"]
P2 --> P5["05 网络与存储<br/>RDMA 进容器、checkpoint I/O"]
end
subgraph DEL["交付层:引擎之侧"]
direction TB
P6["06 Serving 平台<br/>InferenceService → llm-d"] --> P7["07 模型网关与多租户"] --> P8["08 可观测、成本与 FinOps"]
end
P1 --> P2
P1 --> P6
P4 & P5 -. "推理服务也跑在这些资源上" .-> P6
COMMENTS
评论存放在 GitHub Discussions, 用 GitHub 账号登录即可发表,支持 Markdown。 想针对正文某句话说?选中那段文字,点浮出的「评论」即可划线评论;觉得哪里写错了,发表时勾上「同时提交 Issue」。 有人回复你时 GitHub 会按你的通知设置发邮件,不用守在这里。