2026 年 9 月，一块新的 RTX 5090 街价中位数大约 $4,800，已经远离 $1,999 的首发建议零售价；同一张卡在云上大约 $0.69–$0.99/小时。贵的是标价，决定买还是租的是你一年能把卡点亮多少小时。下面按实验、每个工作日 6 小时、7×24 三档，把 3 个月、1 年、3 年 的总预算和含电费的回本周期算到可以写进预算表。
先定负载，再谈买或租
消费级显卡和数据中心卡不是同一件商品。RTX 5090 是 32GB 桌面卡，适合量化后的中小模型推理、图像生成、小规模 LoRA。H100 80GB 有 ECC、MIG，PCIe 与 SXM 形态也不同，70B 级权重和更高批次的推理才用得上那 80GB。用 5090 的购入价去对比 H100 的时租，会把「更便宜」误当成「能做同一件事」。
另一条分界更常被漏掉：如果推理走的是 GPT、Claude、Gemini 的 API，GPU 这一行可以是 $0。订阅和按量怎么叠，见 AI 编程一个月的真实账单 和 OpenRouter 上的模型单价。本文只算你必须把权重放在自己可控的 GPU 上的那一档。
三档用量（全文同一口径）
- 实验：每周约 10 小时，每月 40 小时。3 个月 120 小时，1 年 480 小时，3 年 1,440 小时。
- 每日开发：每个工作日 6 小时 × 22 天 = 每月 132 小时。3 个月 396 小时，1 年 1,584 小时，3 年 4,752 小时。
- 7×24：每月 730 小时（365×24÷12）。3 个月 2,190 小时，1 年 8,760 小时，3 年 26,280 小时。
2026 年 9 月标价与电费假设
主表是规划价，不是报价。不含税、不含进口增值税。云租锚点用 RunPod 公开价：RTX 5090 Community Cloud $0.69/小时（2026 年 9 月上旬起稳定），Secure Cloud $0.99/小时；H100 PCIe Secure Cloud $2.89/小时（2026-09-07 价卡）。Vast.ai 一类社区地板价 RTX 5090 大约 $0.45/小时，可能被中断，只在回本敏感性里出现，不进主表。
自购这边：5090 新卡街价取 $4,800（2026 年 9 月中公开挂牌中位数大约 $4,750–$4,900）。默认你已经有主机，只加一块卡。H100 取 GPU $28,000（新卡公开区间约 $25,000–$31,000 的中位）加单卡服务器 $8,000（机箱、CPU、内存、盘、电源和网卡），合计 $36,000。这不是 8 卡 HGX 节点。
电费按满载、$0.12/kWh。5090 整机约 0.70 kW，合 $0.084/小时；H100 PCIe 整机约 0.55 kW，合 $0.066/小时。自购总预算 = 购入成本 + 小时数 × 电费。云租总预算 = 小时数 × 时租。残值在主表里按 $0，后面单独做敏感性。
RTX 5090：3 个月、1 年、3 年总预算
自购列已含电费。云租列是 GPU 小时费，磁盘另计，见下一节。
| 方案 | 3 个月 | 1 年 | 3 年 |
|---|---|---|---|
| 自购 · 每周约 10 小时 | $4,810 | $4,840 | $4,921 |
| 云租 $0.69 · 每周约 10 小时 | $83 | $331 | $994 |
| 自购 · 每个工作日 6 小时 | $4,833 | $4,933 | $5,199 |
| 云租 $0.69 · 每个工作日 6 小时 | $273 | $1,093 | $3,279 |
| 自购 · 7×24 | $4,984 | $5,536 | $7,008 |
| 云租 $0.69 · 7×24 | $1,511 | $6,044 | $18,133 |
| 云租 $0.99 · 7×24（要稳定实例） | $2,168 | $8,672 | $26,017 |
读表只看三行就够。实验档 3 年云租约 $994，自购约 $4,921。每日开发档 3 年仍是租更便宜：$3,279 对 $5,199。只有 7×24 在满 1 年附近越过云租 $0.69：1 年自购 $5,536，云租 $6,044；3 年差距拉到 $7,008 对 $18,133。对照 $0.99 的稳定实例，7×24 会更早偏向自购，但每日开发档在第 3 年末仍然没跨过回本线。
单卡 H100：什么时候买才回本
$36,000 的门槛把「先买一台试试」排除了。偶发微调和每天一班推理，3 年云租都盖不住这块资本开支。
| 方案 | 3 个月 | 1 年 | 3 年 |
|---|---|---|---|
| 自购 · 每周约 10 小时 | $36,008 | $36,032 | $36,095 |
| 云租 $2.89 · 每周约 10 小时 | $347 | $1,387 | $4,162 |
| 自购 · 每个工作日 6 小时 | $36,026 | $36,105 | $36,314 |
| 云租 $2.89 · 每个工作日 6 小时 | $1,144 | $4,578 | $13,733 |
| 自购 · 7×24 | $36,145 | $36,578 | $37,734 |
| 云租 $2.89 · 7×24 | $6,329 | $25,316 | $75,949 |
7×24 跑满 1 年，云租大约 $25,316，自购大约 $36,578，租仍然更省大约 $11,000。跑满 3 年则反过来：自购 $37,734，云租 $75,949。每日 6 小时这一档，3 年云租 $13,733，不到自购的一半。
回本小时数怎么算
回本小时数
购入成本 ÷（云租单价 − 电费单价）
5090 对照 $0.69：4,800 ÷ (0.69 − 0.084) = 7,921 小时。7×24 大约 330 天（约 11 个月）。每个工作日 6 小时大约 60 个月。
H100 对照 $2.89：36,000 ÷ (2.89 − 0.066) = 12,748 小时。7×24 大约 531 天（约 17.5 个月）。每个工作日 6 小时大约 8 年。
三组敏感性，都不改「3 个月先租」：
- 从零配主机：5090 再加约 $2,000 电源和机箱，7×24 对照 $0.69 的回本从约 11 个月延到约 15.5 个月。
- 残值：主表按卖不掉。若 3 年后 5090 还能卖出购入价的 40%，7×24 回本缩短到大约 198 天。2026 年的缺货把残值抬得异常高，不要把这当成默认。
- 可中断 $0.45：5090 的 7×24 回本大约 546 天（约 18 个月）。满 1 年仍然是租更便宜。
主表没写进去的成本
- 云磁盘和流量。百 GB 到几百 GB 的持久盘，常见是每月几美元到几十美元。除非你存数 TB，否则不改变买还是租。
- 日历不等于点亮。自购按实际 GPU 小时回本。卡在机箱里待机，资本开支已经花出去了。
- 中断。社区低价实例可能被抢占，长训练要重跑。要把稳定实例的 $0.99 或 $2.89 放进对照，而不是只看地板价。
- 能力。32GB 消费卡没有 MIG，也没有数据中心卡那档 NVLink。单卡 5090 替代不了单卡 H100 上的 70B 级任务。
- 税和电价阶梯。进口增值税、商业电价会抬高自购。方向不变：电费相对时租仍是小项，开机小时才是大项。
按期限选：决策表
| 用法 | 3 个月 | 1 年 | 3 年 |
|---|---|---|---|
| 5090，每周约 10 小时 | 租 | 租 | 租 |
| 5090，每个工作日 6 小时 | 租 | 租 | 租 |
| 5090，7×24，对照 $0.69 | 租 | 买略省 | 买 |
| 5090，7×24，对照 $0.45 可中断 | 租 | 租 | 买 |
| H100 单卡，非全天 | 租 | 租 | 租 |
| H100 单卡，7×24，对照 $2.89 | 租 | 租 | 买 |
先用云租把真实 GPU 小时记满 3 个月，再拿发票上的小时数除上面的回本小时数。预测利用率，通常会把「我们会 7×24」写得过满。
3 个月试点该不该买？
不该。即便 7×24，3 个月 5090 云租约 $1,511，自购含电费约 $4,984。H100 更悬殊：$6,329 对 $36,145。试点的正确动作是租，并把小时数记下来。
每天 6 小时，3 年能回本吗？
按本文的 $0.69 和 $2.89，不能。5090 这档 3 年云租约 $3,279，自购约 $5,199，回本要大约 60 个月。H100 大约要 8 年。只有卡几乎不关机，买才在 1–2 年内划算。
电费会不会改结论？
国内住宅电价大约 0.6–0.8 元/kWh 时，5090 整机 0.7 kW 的电费大约 0.4–0.6 元/小时，云租 $0.69 大约 5 元/小时，电费大约是时租的一成。把规划电价从 $0.12 改到 $0.30/kWh，5090 对照 $0.69 的 7×24 回本从 330 天延到大约 417 天。结论仍是接近全天才买。
已经有 Mac，还要买 NVIDIA 吗？
编码 Agent 如果调用的是托管模型，本地 NVIDIA 不是必选项。要跑私有权重、微调或不能出网的推理，再单列 GPU 预算。macOS 上的签名、模拟器和打包是另一条账单：开发在 Mac、GPU 在另一处，以及 Agent 循环到底要哪一台服务器。云端 Mac 补的是 Apple 工具链，不代替上面的 GPU 时租。
GPU 账单和 Mac 工具链分开算
权重放在租来的 GPU 上，签名和 xcodebuild 仍要 macOS。Zilmac 云端 Mac 用来跑 Apple 工具链，不售卖 GPU 小时。
先把 GPU 小时记在云账单上，Mac 节点按构建频率另租。 — 查看云 Mac 方案