雲端 GPU 租用
不想買卡、又需要 GPU 時的中間選項。按小時付費，用完就停。
三條路徑的適用邊界
| 方案 | 固定成本 | 變動成本 | 適合 |
|---|---|---|---|
| API | 0 | 按 token | 調用量不確定、想快速開始 |
| 雲端 GPU | 0 | 按小時 | 峰值、短期、實驗 |
| 自建 | 高 | 電費+運維 | 高頻穩定、資料敏感 |
常見供應商類型
| 類型 | 特點 | 注意 |
|---|---|---|
| 大廠雲（阿里雲、騰訊雲等） | 穩定、發票齊全、文件完整 | 價格較高，常有促銷 |
| 專業 GPU 雲 | 性價比好，卡型多 | 需確認可用區與網路 |
| 社群算力平台 | 最便宜 | 穩定性和售後較難保證 |
價格區間（參考，會變動）
| 卡型 | 顯存 | 約每小時 |
|---|---|---|
| RTX 4090 | 24 GB | 2-5 元 |
| A100 40G | 40 GB | 6-12 元 |
| A100 80G | 80 GB | 10-20 元 |
| H100 | 80 GB | 20-40 元 |
價格波動大，且常有包月或競價方案。以上僅供量級參考。
隱藏成本
- 儲存費用。模型檔案動輒幾十 GB，停機時仍要付儲存費。停機前記得備份到物件儲存。
- 資料傳輸。下載模型與上傳資料都會產生流量費，大量資料要先算清楚。
- 啟動時間。從開機到下載完模型可能要 10-30 分鐘，這段時間也在計費。
- 閒置浪費。用完忘記關機是最常見的浪費，設定自動關機。
什麼情況租比買划算
| 情況 | 建議 |
|---|---|
| 每月使用 < 50 小時 | 租 |
| 每月使用 50-200 小時 | 算一下，接近平衡點 |
| 每月使用 > 200 小時 | 買卡通常更划算 |
| 只是試用、驗證想法 | 租（或先用 API） |
| 有短期峰值需求 | 租（彈性擴容） |
買卡成本 ÷ 每小時租金 = 平衡小時數 例：15000 元 ÷ 3 元/小時 = 5000 小時 每月用 100 小時 → 需 50 個月才回本 → 這種用量租比買划算
實務建議
- 先用小時計費跑一週，統計實際用量再決定。
- 設定預算告警，避免忘記關機。
- 模型檔案放物件儲存，開機時掛載，不要每次重下。
- 需要長期跑時，比較包月方案與按小時。