底層基礎設施

這六個官方倉庫是 DeepSeek 能跑得便宜、訓得出來的底層原因。幾乎沒有人寫過它們 —— 但它們決定了你能不能在自己的硬件上跑出同等效率。

為什麼這一層重要。 大部分人只關心「哪個模型好」，但同樣的模型，用官方內核和用通用內核，吞吐能差 2-3 倍。這一層就是那個差別。

★ 13,252C++

多头潜在注意力（MLA）的高效实现，Hopper GPU 专用。

这是 DeepSeek 能做到「长上下文但便宜」的核心之一。

★ 10,411Cuda

MoE 的专家并行通信库，提供高吞吐 all-to-all。

MoE 模型的瓶颈不在算力在通信，这个库解决的就是它。

★ 9,155Cuda

FP8 GEMM 内核库，JIT 编译，专为 DeepSeek 的矩阵形状优化。

FP8 训练/推理能省一半显存，但需要这类内核支持。

★ 10,425C++

Fire-Flyer File System —— 面向 AI 训练的高性能分布式文件系统。

训练时数据加载常是瓶颈，3FS 是为这个场景造的。

★ 7,280Python

推测解码（speculative decoding）的实现。

用小模型猜、大模型验证，能在不降质量的前提下提速。

★ 25,379Python

官方推理引擎/服务框架。

比通用推理框架更贴近 DeepSeek 模型本身的结构。

★ 8,131

官方基础设施索引，汇总所有底层组件。

想搞懂 DeepSeek 怎么训出来的，从这里开始。

★ 3,030Python

双向流水线并行调度。

减少流水线气泡，提升训练吞吐。

★ 1,467Python

专家并行负载均衡（Expert Parallel Load Balancer）。

MoE 的专家负载不均会导致部分 GPU 空转，这个解决它。

怎麼用

你的情況	該看哪個
要自己部署大模型，追求吞吐	DeepInfer、FlashMLA、DeepGEMM
跑 MoE 模型，多卡通信慢	DeepEP、EPLB
訓練時數據加載卡住	3FS
想在不掉質量的前提下提速	DeepSpec
想理解 DeepSeek 的訓練方法	open-infra-index