一句话结论
同样一张 H100,竞价实例(Spot Instance,云厂商按供需浮动定价、可被随时回收的实例类型)相对按需的真实节省是 25%–50%,而不是宣传口径里的 70%–90%。差额不在价格本身,而在「按需基准价」这个分母怎么选:用超大规模云的标价做分母,折扣自然好看;用同厂商、同一天、同区域的实际按需报价做分母,折扣会缩水一半左右。真正决定这件事值不值得做的,是检查点(checkpoint,把模型权重与优化器状态定期写入持久存储)的成本,而不是价格表。
关键数据:同源同期才有可比性
比较 GPU 租赁价格时,最常见的错误是拿 A 家的竞价价去比 B 家的按需价。下面这张表取自同一份 2026 年 4 月 19 日的跨厂商快照,两列数据同源同期,单位统一为美元/每 GPU/每小时,卡型统一为 H100 80GB SXM。
| 厂商 | 按需(美元/GPU/小时) | 竞价/可中断(美元/GPU/小时) | 折扣 |
|---|---|---|---|
| Vast.ai(社区市场) | 1.38–1.87 | 约 1.00 | 28%–47% |
| RunPod(社区云) | 1.99 | 约 1.25 | 37% |
| Google Cloud(A3 High) | 约 3.00 | 约 2.25 | 25% |
| AWS(p5.48xlarge 折算) | 约 3.90 | 约 2.50 | 36% |
| Azure(ND H100 v5) | 约 6.98 | 约 3.50 | 50% |
数据来源:Cloud GPU Rental Pricing Compared,2026 年 4 月 19 日快照,美元/GPU/小时。Vast.ai 为点对点市场,其「按需」列本身即市场挂牌区间,稳定性弱于托管云。
把这张表和市面上的宣传数字放在一起,矛盾就出现了。同一时期另一份行业汇总给出的口径是「AWS 竞价相对按需省 70%–91%」,理由是 AWS p5.48xlarge 按需标价 55.04 美元/实例/小时(约 6.88 美元/GPU/小时),而竞价最低到过 16.66 美元/实例/小时(约 2.08 美元/GPU/小时),确实接近 70% 折扣。
问题出在两个数都真实,但不同源。我们把三种常见的按需基准并排列出:
| 按需基准口径 | 折算单价(美元/GPU/小时) | 对 AWS 竞价约 2.50 的折扣 |
|---|---|---|
| AWS p5.48xlarge 标价 55.04 美元/实例/小时 | 6.88 | 64% |
| AWS 2025 年 6 月降价后的常见引用口径 | 3.90 | 36% |
| 部分第三方引用的早期 98.32 美元/实例/小时 | 12.29 | 80% |
同一张卡、同一个竞价价,「能省多少」可以是 36%,也可以是 80%。分母决定叙事。做预算时,如果只记住一个数字,记住这句:折扣的分母必须是同厂商、同区域、同一天的按需报价,否则这个百分比没有决策价值。
分点论证
一、厂商层级的价差,大于计费模式的价差
看第一张表:RunPod 竞价约 1.25 美元/GPU/小时,比 Azure 按需的 6.98 低 82%,比 AWS 按需的 3.90 低 68%。也就是说,如果你的任务本来就允许跑在社区云或专业云上,「换厂商」能拿到的价差,往往大于「换计费模式」。反过来,在 Vast.ai 上从按需切到竞价只省 28%–47%,因为社区云的按需价本身已经贴近成本线,没有多少让利空间。
这对 GPU 选型的直接含义是:先把候选厂商的层级拉平,再在同一家内比较按需、预留与竞价三种报价。跨层比较得出的折扣率,基本都是幻觉。
二、把中断损耗显式算进单价
很多材料说「竞价省 70%,扣掉中断损耗大概省 60%」,但不说这 10% 从哪来。我们拆一次。
行业汇总给出的 H100 竞价小时中断概率约为 4.1%(基于约 1000 万 Spot 小时样本的统计,属估算值,仅覆盖 AWS 及部分卡型),对比 A100 的 2.3%、V100 的 0.8%。设检查点间隔 15 分钟,平均每次中断损失半格进度即 7.5 分钟算力;节点回收后重新调度、拉镜像、从检查点恢复,按 5 分钟计。则:
- 中断损耗系数 = 4.1% × (7.5 + 5) ÷ 60 ≈ 0.85%
- 有效单价 = 名义竞价价 × (1 + 0.85%)
AWS p5 竞价 2.50 美元/GPU/小时 → 有效 2.52 美元,对应按需仍有 35% 折扣。
这个模型对「中断后能否立刻拿回容量」极度敏感。如果同区域同卡型被集体回收,重新获取容量等 1 小时以上,损耗系数升到 4.1% × 1.208 ≈ 5.0%,有效单价 2.63 美元,折扣仍有 33%。
反过来算:作为对照,一份更保守的行业测算对 p4d.24xlarge(8×A100)给出的模型是按需 32.77 美元/小时、竞价均值 8.19 美元/小时(省 75%),计入 10% 中断开销后有效价 9.01 美元/小时,月支出从 19,662 美元降到 5,406 美元。我们认为预算阶段取 1%–5% 与 10% 之间的中间值更稳妥。
结论:只要检查点粒度在 15–30 分钟量级、并准备了跨可用区的备用容量池,中断损耗通常在 1%–5%,不构成放弃竞价的理由。
三、真正吃掉折扣的是重启代价,不是中断次数
对多机分布式训练,一次中断不是重跑 7.5 分钟。8 节点 × 8 卡的任务重新集合、NCCL 通信组重新初始化、数据管道重新预热,冷启动到恢复满吞吐常见需要 10–20 分钟。按 20 分钟算:4.1% × (0.125 + 0.33) ≈ 1.9%,仍可接受。
不可接受的是另一种情况:没有检查点,或检查点写的是本地盘。一次回收就损失数小时到数天,与省下的 30%–50% 完全不在一个量级。这是竞价实例唯一真正的「反例级」风险。
四、国内市场的规则不一样
阿里云的抢占式实例(其 GPU 云服务器现称 EGS),官方口径是价格随供需波动、超出保护期后可能因库存不足或出价低于市场价被释放,且不承诺固定的回收通知窗口。第三方文章给出的折扣口径从「按量付费的 30%–50%」到「3–5 折」不等,另有来源称可低至 1 折——这些均为估算区间,彼此差异较大,实际应以控制台实时报价为准。
可核对的单点数据是:gn6i(T4)按量约 3.5 元/小时(人民币,元/实例/小时,2026 年阿里云开发者社区口径),抢占式 1.2 元/小时起,约 66% 折扣。
国内 AI 算力价格与海外的一个关键差异是通知窗口更短、回收更突然。因此在阿里云等国内平台上,我们建议把检查点间隔从 15–30 分钟压到 5–10 分钟,用更密的落盘换取更低的单次损失。
五、通知窗口是你能利用的最后一道缓冲
AWS 的机制写得最明确:Spot 实例中断通知是「在 Amazon EC2 中断 Spot 实例前两分钟所发出的警告」;此外还有更早的 EC2 实例重新平衡建议信号,让你在两分钟通知之前就把工作负载迁走。AWS 官方给出的最佳实践是在收到通知后「捕获通知,并将任务的状态存储至存储体(例如 Amazon S3、Amazon EFS 或 Amazon FSx)」,并保存或持续流式输出实例日志。
对照组:Google Cloud 的可抢占实例只给约 30 秒,Azure 的通知窗口可配置。30 秒只够刷一次日志,不够写一次完整检查点——这意味着在 GCP 上跑竞价,检查点必须由定时器驱动,而不能依赖中断信号触发。
适用边界与反例
竞价实例不适用的情况,我们按风险从高到低列:
- 在线推理服务。 推理(inference,用训练好的模型对新输入计算输出)要求 P99 延迟稳定。实例被回收时,在途请求直接失败;即使有 2 分钟通知,负载均衡摘除节点到连接排空也未必来得及。这类负载应用按需或预留实例。
- 无法检查点的长任务。 一次训练跑 8 小时且中途无落盘,一次回收损失全部进度。此时省下的 36% 与全部重跑的成本不在一个量级。
- 对拓扑有硬要求的任务。 需要 NVLink 域内全互联或固定 InfiniBand 拓扑的多机任务,重新调度后拿到的物理拓扑可能变化,性能回退有可能抵消价格优势。云厂商不承诺竞价实例的拓扑一致性。
- 预算必须确定的场景。 竞价价格随供需浮动,季度预算可预测性差。若财务要求月度支出上限明确,竞价份额不宜超过总算力的 60%–70%。
- 无 SLA 兜底的采购。 社区云与市场的可中断实例通常不提供 SLA(Service Level Agreement,服务等级协议),网络带宽稳定性也弱于托管云。对带宽敏感的分布式训练,这项隐性成本可能超过折扣收益。
行动建议
- 先做可检查点化改造,再谈竞价。 改造之前就上竞价,等于把「节省的概率」换成「损失确定性的赌注」。建议双轨:每 5–10 分钟写一次本地快速检查点,每 30 分钟写一次持久化对象存储。
- 按「厂商层级 × 计费模式」两维比价。 先用 GPU 选型把候选压到 2–3 家(社区云、专业云、超大规模云各一),再在同一家内比较按需、预留与竞价。禁止跨层比较折扣率。
- 跨池分散。 单个可用区、单个实例族的竞价池会在同一时刻被集体回收,中断事件高度相关。至少覆盖 3 个可用区或 2 家厂商,容量池数量在 10 个以上。
- 设一个可量化的止损线。 当测算出的中断损耗系数超过 15% 时,改用按需补齐。按本文模型,这大致对应「检查点间隔 > 2 小时」或「重启耗时 > 40 分钟」的负载。
- 预算按竞价占比 60%–70% 封顶,其余用按需或预留托底,避免价格波动直接冲击现金流。
更新说明
本文价格数据采集于 2026 年 9 月,币种为美元(阿里云条目为人民币),计量单位统一为每 GPU 每小时,整机报价已按卡数折算并注明。竞价价格随供需实时变动,正式预算请以厂商控制台实时报价为准;中断概率与损耗系数为基于公开统计的估算值,估算方法已在正文第二节给出。本文不构成采购或投资建议。

