本地部署的真實成本
「自建省錢」是本地部署最常見的誤判。把四項成本加起來，多數情況會得出相反結論。
四項成本
| 項目 | 算法 | 每月約 |
|---|---|---|
| 硬體折舊 | 硬體成本 ÷ 使用月數（通常 36） | 15,000 ÷ 36 ≈ 420 元 |
| 電費 | 功耗 × 使用時數 × 30 ÷ 1000 × 電價 | 450W × 8h × 30 × 0.6 ≈ 65 元 |
| 運維時間 | 裝環境、更新、排錯（多數人算 0） | 每月 2-5 小時 |
| 隱藏成本 | 利用率不足、模型更新、監控 | 難以量化但真實 |
只算前兩項，每月固定成本約 485 元。這筆錢不管你用不用都在燒。
同樣的錢能買多少 API
以 DeepSeek Flash 離峰價（約 1.1 元 / 百萬輸入 tokens）估算：
485 元 ÷ 1.1 元/百萬 ≈ 4.4 億 tokens / 月
≈ 1,460 萬 tokens / 天
也就是說：除非你每天調用量穩定超過一千萬 tokens，
否則自建的固定成本就已經比 API 貴。而多數團隊的日調用量在幾十萬到幾百萬之間。
三個常被低估的成本
1. 利用率永遠不到 100%
沒人半夜三點也在跑推理，但硬體成本不因閒置而減少。實際利用率能有 30% 就算不錯 —— 等於每 token 的攤提成本變成三倍。
2. 運維時間沒計價
裝 CUDA、處理 OOM、更新模型、監控穩定性、寫部署腳本。這些時間如果拿去做產品，價值遠高於省下的 API 費用。
3. 模型更新要重來
新模型出來時，自建得重新下載、測試、調整參數；用 API 只要改個模型名稱。
什麼情況自建真的划算
| 情況 | 說明 |
|---|---|
| 資料不能出內網 | 合規硬要求，價格不是決策因素 |
| 日調用量極大 | 穩定在上億 tokens，且利用率高 |
| 已有閒置 GPU | 邊際成本接近零 |
| 需要離線運行 | 無網路環境（工廠、船舶、野外） |
| 需要極低延遲 | 本地推論避免網路往返 |
怎麼自己算
用 損益平衡計算器，輸入你的硬體成本、電價、日調用量， 會直接算出每月兩邊各花多少、以及多少調用量時打平。