三年前如果你去问一家 AI 创业公司最大的焦虑是什么，答案大概率是”搞不到卡”。而现在再问同样的问题，听到的更多是”怎么把算力成本算清楚”。这个转变本身就值得写一篇文章——算力市场已经从卖方市场，慢慢走向一个更成熟、更像电力市场的结构。
供需再平衡：优质算力依然抢手
总量上看，算力的供给在快速扩张。各大云厂商的数据中心一轮接一轮地扩建，二手市场上也流通着大量从挖矿时代转型过来的消费级显卡。但”优质算力”——也就是高带宽互联、稳定供电、低故障率的训练级集群——依然是稀缺资源。头部模型公司的长租约锁住了大部分新增产能，中小企业想临时租一个千卡集群，仍然需要提前几周排期。
所以市场的真实图景不是”算力过剩”，而是分层：消费级和小规模算力价格持续走低，而顶级互联的训练集群依旧坚挺。
价格曲线：租赁价格回归理性
以最常见的 8 卡 H100 服务器为例，市场最疯狂的时候整机时租价格一度被炒到非常离谱的水平，而现在已经回落到大多数人可以按项目预算的程度。区域差异也很明显：北美 pinch 点的电力紧张推高了部分价格，而马来西亚、部分欧洲地区的新建机房则给出了更有竞争力的报价。
对使用者来说，这意味着”货比三家”重新变得有意义了。同样一张卡，在不同平台上价格差出 30% 并不罕见，差额往往就来自电力成本、机房折旧和网络质量这些”卡以外”的因素。
计价方式变了：从按卡出租到按 Token 付费
更深刻的变化在计价层。过去租算力像租服务器，按卡、按小时、按月；现在越来越多团队直接按 Token 付费，也就是按模型实际处理的工作量计费。推理侧尤其明显——你不再关心背后是 H100 还是 H200，只关心每一百万 Token 多少钱、首 Token 延迟多少毫秒。
这其实是算力”公用事业化”的标志：当一种资源的使用方式足够标准化，市场就会自然长出更细颗粒度的计价单位。就像电力从”包一台发电机”走到”按度计费”。
给企业的三点建议
第一，把训练和推理的采购分开评估：训练看集群互联和稳定性，推理看单 Token 成本和弹性。第二，长租约要留出技术迭代的退出条款——卡的价格两年跌掉一半的故事并不遥远。第三，永远同时保留至少两条供应渠道，算力市场的波动性比你想象的大。
算力市场正在从狂热期进入精打细算的运营期，这对真正做事的团队是好消息。接下来我们会持续跟踪价格和供需的变化。
Pingback: 走进数据中心：AI 训练集群背后的网络与布线 – IDCToken 算力博客