算力与芯片适配：DeepSeek 五層套件
让 DeepSeek 跑在非 NVIDIA 的芯片上。当下真正在做的不是长鑫/中芯，是昇腾、海光、AMD NPU、Intel。
模型
28
工具鏈
0
參考實現
0
硬件
58
一、模型層
二、工具鏈
| 專案 | ★ | 做什麼 |
|---|
三、參考實現
| 專案 | ★ | 做什麼 |
|---|
四、硬件適配
什麼跑在什麼上。這些是能跑的真實案例，不是廠商宣傳。
| 專案 | ★ | 硬件目標 |
|---|---|---|
| ipex-llm | 8,844 | Accelerate local LLM inference and finetuning (LLaMA, Mistral, ChatGLM, Qwen, DeepSeek, Mi |
| gpustack | 5,978 | A GPU cluster manager for high-performance AI model serving (vLLM, SGLang) and on-demand S |
| cube-studio | 5,087 | cube studio开源云原生一站式机器学习/深度学习/大模型AI平台，mlops算法链路全流程，算力租赁平台，notebook在线开发，拖拉拽任务流pipeline编排，多机多 |
| cube-studio | 2,592 | cubestudio开源云原生一站式机器学习/深度学习/大模型AI平台/MaaS/mlops/人工智能平台/训推平台，算法全链路流程，多租户，算力租赁平台，token中转，拖拉拽任 |
| FastFlowLM | 2,019 | Run LLMs on AMD Ryzen™ AI NPUs in minutes; purpose-built and deeply optimized for the AMD |
| unified-cache-management | 352 | Persist and reuse KV Cache to speedup your LLM. |
| dcu-in-action | 119 | 国产加速卡-海光DCU实战（大模型训练、微调、推理 等） |
| deepseek-v4.1-flash-ascend910B | 58 | DeepSeek-V4.1-Flash W4A8 optimized vLLM deployment for Ascend 910B (A2) / 910C (A3): patch |
| PocketLLM | 55 | Inference engine for large language models on consumer GPUs, with deep optimization for ol |
| SLAI-T-Rex | 42 | SLAI T-Rex: Full-Parameter Post-training of the DeepSeek-V4 Family on Ascend SuperPOD |
五、踩坑
- 昇腾的 vLLM 适配有版本矩阵，vllm-ascend 版本和 CANN 版本不匹配会直接起不来。
- 国产芯片的量化格式不通用。W4A8、W8A8 各家的实现不同，模型不能直接搬。
- 海光 DCU 用 ROCm 栈，生态比 CUDA 薄，很多算子要自己补。
- AMD NPU（Ryzen AI）只能跑小模型，且需要 ONNX 转换，不是原生支持。
- 多卡并行的通信库差异大，NCCL 在非 NVIDIA 平台要换实现。