DeepSeek 本地部署總覽

本地部署不是「更省錢」,也不是「更強」。它解決的是特定問題。先搞清楚你的問題是哪一種,再決定要不要自建。

先問三個問題

1. 你的資料能不能出內網?
不能 → 只能本地部署,價格再貴也得自建。
能 → 先算損益平衡,多數情況 API 更便宜。

2. 你的調用量有多大?
每天幾十萬 tokens 以下 → API 幾乎一定更划算。
每天上億 tokens → 自建才可能划算,但仍要看利用率。

3. 你的任務需要多大的模型?
分類、抽取、翻譯 → 小模型(7B-32B)本地跑得動。
複雜推理、長上下文 → 需要大模型,單機跑不動。

四種部署方式

方式適合難度效能說明
Ollama個人試用、小團隊★中一行指令裝好,自動管理模型
llama.cpp單機、CPU+GPU 混合★★中GGUF 量化生態最完整,可控性高
vLLM生產環境、多併發★★★★高吞吐量最好,需要 Linux + GPU
雲端 GPU臨時峰值、不想買卡★★高按小時計費,適合短時高負載

兩個計算器

一個常見誤解

「本地部署更便宜」通常不成立。 一張 RTX 4090 約 1.5 萬元,折舊三年每月約 420 元,加上電費與運維, 每月固定成本接近 500 元。同樣的錢用來調用 API,按 Flash 離峰價可跑約 8 億 tokens。 除非你的調用量遠超這個數字,否則 API 便宜得多。

延伸閱讀

GGUF 量化格式怎麼選 · Ollama 部署步驟 · llama.cpp 部署步驟 · 硬體選擇 · 本地部署的真實成本 · DeepSeek API 價格