DeepSeek 本地部署總覽
本地部署不是「更省錢」,也不是「更強」。它解決的是特定問題。先搞清楚你的問題是哪一種,再決定要不要自建。
先問三個問題
1. 你的資料能不能出內網?
不能 → 只能本地部署,價格再貴也得自建。
能 → 先算損益平衡,多數情況 API 更便宜。
2. 你的調用量有多大?
每天幾十萬 tokens 以下 → API 幾乎一定更划算。
每天上億 tokens → 自建才可能划算,但仍要看利用率。
3. 你的任務需要多大的模型?
分類、抽取、翻譯 → 小模型(7B-32B)本地跑得動。
複雜推理、長上下文 → 需要大模型,單機跑不動。
四種部署方式
| 方式 | 適合 | 難度 | 效能 | 說明 |
|---|---|---|---|---|
| Ollama | 個人試用、小團隊 | ★ | 中 | 一行指令裝好,自動管理模型 |
| llama.cpp | 單機、CPU+GPU 混合 | ★★ | 中 | GGUF 量化生態最完整,可控性高 |
| vLLM | 生產環境、多併發 | ★★★★ | 高 | 吞吐量最好,需要 Linux + GPU |
| 雲端 GPU | 臨時峰值、不想買卡 | ★★ | 高 | 按小時計費,適合短時高負載 |
兩個計算器
一個常見誤解
「本地部署更便宜」通常不成立。
一張 RTX 4090 約 1.5 萬元,折舊三年每月約 420 元,加上電費與運維,
每月固定成本接近 500 元。同樣的錢用來調用 API,按 Flash 離峰價可跑約 8 億 tokens。
除非你的調用量遠超這個數字,否則 API 便宜得多。
延伸閱讀
GGUF 量化格式怎麼選 · Ollama 部署步驟 · llama.cpp 部署步驟 · 硬體選擇 · 本地部署的真實成本 · DeepSeek API 價格