2026 年 9 月，一張新的 RTX 5090 街價中位數大約 $4,800，已經遠離 $1,999 的首發建議售價；同一張卡在雲上大約 $0.69–$0.99/小時。貴的是標價，決定買還是租的是你一年能把卡點亮多少小時。下面按實驗、每個工作日 6 小時、7×24 三檔，把 3 個月、1 年、3 年 的總預算和含電費的回本週期算到可以寫進預算表。
先定負載，再談買或租
消費級顯卡和資料中心卡不是同一件商品。RTX 5090 是 32GB 桌面卡，適合量化後的中小模型推論、影像生成、小規模 LoRA。H100 80GB 有 ECC、MIG，PCIe 與 SXM 形態也不同，70B 級權重和更高批次的推論才用得上那 80GB。用 5090 的購入價去對比 H100 的時租，會把「更便宜」誤當成「能做同一件事」。
另一條分界更常被漏掉：如果推論走的是 GPT、Claude、Gemini 的 API，GPU 這一列可以是 $0。訂閱和按量怎麼疊，見 AI 程式設計一個月的真實帳單 和 OpenRouter 上的模型單價。本文只算你必須把權重放在自己可控的 GPU 上的那一檔。
三檔用量（全文同一口徑）
- 實驗：每週約 10 小時，每月 40 小時。3 個月 120 小時，1 年 480 小時，3 年 1,440 小時。
- 每日開發：每個工作日 6 小時 × 22 天 = 每月 132 小時。3 個月 396 小時，1 年 1,584 小時，3 年 4,752 小時。
- 7×24：每月 730 小時（365×24÷12）。3 個月 2,190 小時，1 年 8,760 小時，3 年 26,280 小時。
2026 年 9 月標價與電費假設
主表是規劃價，不是報價。不含稅、不含進口增值稅。雲租錨點用 RunPod 公開價：RTX 5090 Community Cloud $0.69/小時（2026 年 9 月上旬起穩定），Secure Cloud $0.99/小時；H100 PCIe Secure Cloud $2.89/小時（2026-09-07 價卡）。Vast.ai 一類社群地板價 RTX 5090 大約 $0.45/小時，可能被中斷，只在回本敏感性裡出現，不進主表。
自購這邊：5090 新卡街價取 $4,800（2026 年 9 月中公開掛牌中位數大約 $4,750–$4,900）。預設你已經有主機，只加一張卡。H100 取 GPU $28,000（新卡公開區間約 $25,000–$31,000 的中位）加單卡伺服器 $8,000（機箱、CPU、記憶體、碟、電源和網卡），合計 $36,000。這不是 8 卡 HGX 節點。
電費按滿載、$0.12/kWh。5090 整機約 0.70 kW，合 $0.084/小時；H100 PCIe 整機約 0.55 kW，合 $0.066/小時。自購總預算 = 購入成本 + 小時數 × 電費。雲租總預算 = 小時數 × 時租。殘值在主表裡按 $0，後面單獨做敏感性。
RTX 5090：3 個月、1 年、3 年總預算
自購欄已含電費。雲租欄是 GPU 小時費，磁碟另計，見下一節。
| 方案 | 3 個月 | 1 年 | 3 年 |
|---|---|---|---|
| 自購 · 每週約 10 小時 | $4,810 | $4,840 | $4,921 |
| 雲租 $0.69 · 每週約 10 小時 | $83 | $331 | $994 |
| 自購 · 每個工作日 6 小時 | $4,833 | $4,933 | $5,199 |
| 雲租 $0.69 · 每個工作日 6 小時 | $273 | $1,093 | $3,279 |
| 自購 · 7×24 | $4,984 | $5,536 | $7,008 |
| 雲租 $0.69 · 7×24 | $1,511 | $6,044 | $18,133 |
| 雲租 $0.99 · 7×24（要穩定執行個體） | $2,168 | $8,672 | $26,017 |
讀表只看三列就夠。實驗檔 3 年雲租約 $994，自購約 $4,921。每日開發檔 3 年仍是租更便宜：$3,279 對 $5,199。只有 7×24 在滿 1 年附近越過雲租 $0.69：1 年自購 $5,536，雲租 $6,044；3 年差距拉到 $7,008 對 $18,133。對照 $0.99 的穩定執行個體，7×24 會更早偏向自購，但每日開發檔在第 3 年末仍然沒跨過回本線。
單卡 H100：什麼時候買才回本
$36,000 的門檻把「先買一台試試」排除了。偶發微調和每天一班推論，3 年雲租都蓋不住這筆資本開支。
| 方案 | 3 個月 | 1 年 | 3 年 |
|---|---|---|---|
| 自購 · 每週約 10 小時 | $36,008 | $36,032 | $36,095 |
| 雲租 $2.89 · 每週約 10 小時 | $347 | $1,387 | $4,162 |
| 自購 · 每個工作日 6 小時 | $36,026 | $36,105 | $36,314 |
| 雲租 $2.89 · 每個工作日 6 小時 | $1,144 | $4,578 | $13,733 |
| 自購 · 7×24 | $36,145 | $36,578 | $37,734 |
| 雲租 $2.89 · 7×24 | $6,329 | $25,316 | $75,949 |
7×24 跑滿 1 年，雲租大約 $25,316，自購大約 $36,578，租仍然更省大約 $11,000。跑滿 3 年則反過來：自購 $37,734，雲租 $75,949。每日 6 小時這一檔，3 年雲租 $13,733，不到自購的一半。
回本小時數怎麼算
回本小時數
購入成本 ÷（雲租單價 − 電費單價）
5090 對照 $0.69：4,800 ÷ (0.69 − 0.084) = 7,921 小時。7×24 大約 330 天（約 11 個月）。每個工作日 6 小時大約 60 個月。
H100 對照 $2.89：36,000 ÷ (2.89 − 0.066) = 12,748 小時。7×24 大約 531 天（約 17.5 個月）。每個工作日 6 小時大約 8 年。
三組敏感性，都不改「3 個月先租」：
- 從零配主機：5090 再加約 $2,000 電源和機箱，7×24 對照 $0.69 的回本從約 11 個月延到約 15.5 個月。
- 殘值：主表按賣不掉。若 3 年後 5090 還能賣出購入價的 40%，7×24 回本縮短到大約 198 天。2026 年的缺貨把殘值抬得異常高，不要把這當成預設。
- 可中斷 $0.45：5090 的 7×24 回本大約 546 天（約 18 個月）。滿 1 年仍然是租更便宜。
主表沒寫進去的成本
- 雲端磁碟和流量。百 GB 到幾百 GB 的持久碟，常見是每月幾美元到幾十美元。除非你存數 TB，否則不改變買還是租。
- 日曆不等於點亮。自購按實際 GPU 小時回本。卡在機箱裡待機，資本開支已經花出去了。
- 中斷。社群低價執行個體可能被搶占，長訓練要重跑。要把穩定執行個體的 $0.99 或 $2.89 放進對照，而不是只看地板價。
- 能力。32GB 消費卡沒有 MIG，也沒有資料中心卡那檔 NVLink。單卡 5090 替代不了單卡 H100 上的 70B 級任務。
- 稅和電價階梯。進口增值稅、商業電價會抬高自購。方向不變：電費相對時租仍是小項，開機小時才是大項。
按期限選：決策表
| 用法 | 3 個月 | 1 年 | 3 年 |
|---|---|---|---|
| 5090，每週約 10 小時 | 租 | 租 | 租 |
| 5090，每個工作日 6 小時 | 租 | 租 | 租 |
| 5090，7×24，對照 $0.69 | 租 | 買略省 | 買 |
| 5090，7×24，對照 $0.45 可中斷 | 租 | 租 | 買 |
| H100 單卡，非全天 | 租 | 租 | 租 |
| H100 單卡，7×24，對照 $2.89 | 租 | 租 | 買 |
先用雲租把真實 GPU 小時記滿 3 個月，再拿發票上的小時數除上面的回本小時數。預測利用率，通常會把「我們會 7×24」寫得過滿。
3 個月試點該不該買？
不該。即便 7×24，3 個月 5090 雲租約 $1,511，自購含電費約 $4,984。H100 更懸殊：$6,329 對 $36,145。試點的正確動作是租，並把小時數記下來。
每天 6 小時，3 年能回本嗎？
按本文的 $0.69 和 $2.89，不能。5090 這檔 3 年雲租約 $3,279，自購約 $5,199，回本要大約 60 個月。H100 大約要 8 年。只有卡幾乎不關機，買才在 1–2 年內划算。
電費會不會改結論？
住宅電價大約 $0.08–$0.12/kWh 時，5090 整機 0.7 kW 的電費大約是 $0.69 時租的一成。把規劃電價從 $0.12 改到 $0.30/kWh，5090 對照 $0.69 的 7×24 回本從 330 天延到大約 417 天。結論仍是接近全天才買。
已經有 Mac，還要買 NVIDIA 嗎？
編碼 Agent 如果呼叫的是託管模型，本地 NVIDIA 不是必選項。要跑私有權重、微調或不能出網的推論，再單列 GPU 預算。macOS 上的簽章、模擬器和打包是另一條帳單：開發在 Mac、GPU 在另一處，以及 Agent 迴圈到底要哪一台伺服器。雲端 Mac 補的是 Apple 工具鏈，不代替上面的 GPU 時租。
GPU 帳單和 Mac 工具鏈分開算
權重放在租來的 GPU 上，簽章和 xcodebuild 仍要 macOS。Zilmac 雲端 Mac 用來跑 Apple 工具鏈，不販售 GPU 小時。
先把 GPU 小時記在雲帳單上，Mac 節點按建置頻率另租。 — 查看雲 Mac 方案