提示缓存:大模型 API 价格能降多少

一句话结论: 提示缓存(prompt caching,把请求里重复的前缀复用起来、不必每次重新计算)能把重复部分的输入 Token 单价压到牌价的 10%,DeepSeek 上低至 2%;但整单的大模型 API(应用程序接口)价格降幅取决于命中率——命中率不够高时,缓存写入费会让账单比不用缓存更贵。

数据口径:价格为美元、按每百万 Token($/MTok,MTok 即 Million Tokens)计价,统计时间 2026 年 9 月,取自各厂商官方定价页。表 2 的测算为估算值,估算方法在表下注明。

关键数据表

表 1:四家厂商的缓存计费结构($/MTok,2026 年 9 月)

厂商与型号 基础输入 缓存写入 缓存读取 存储费 缓存有效期
Anthropic Claude Sonnet 5 $2 1.25×(5 分钟)/ 2×(1 小时) 0.1× = $0.20 无 5 分钟,命中免费续期;可付费选 1 小时
Anthropic Claude Opus 5 $5 1.25× / 2× 0.1× = $0.50 无 同上
Anthropic Claude Fable 5.1 $10 1.25× / 2× 0.025× = $0.25 无 同上
OpenAI gpt-5.6-terra $2.00 1.25× = $2.50 0.1× = $0.20 无 30 分钟
OpenAI gpt-5.6-luna $0.20 1.25× = $0.25 0.1× = $0.02 无 30 分钟
OpenAI gpt-5.5 及更早 $5.00(gpt-5.5) 无写入费 0.1× = $0.50 无 内存档约 5–10 分钟空闲,或 24 小时档
DeepSeek deepseek-flash $0.15 错峰 / $0.30 高峰 无写入费 $0.003 / $0.006 ≈ 0.02× 未单列 未公开
DeepSeek deepseek-v4-pro $0.66 错峰 / $1.32 高峰 无写入费 $0.022 / $0.044 ≈ 0.033× 未单列 未公开
Google Gemini 3.8 Flash $0.75 未单列写入倍率 0.1× = $0.075 $0.50 / MTok / 小时 自定义
Google Gemini 3.1 Pro Preview(≤200k) $2.00 未单列 0.1× = $0.20 $4.50 / MTok / 小时 自定义

一句话读法:Anthropic 与 OpenAI 的新型号走「写入加价、读取打折」;DeepSeek 走「无写入费、读取近乎免费」;Gemini 走「读取打折 + 按小时收存储费」。三条成本曲线的形状完全不同,不能只看折扣倍数。

表 2:同一负载在三种策略下的 Token 成本(估算值)

估算前提:系统提示加知识库前缀 20,000 Token,每次请求追加 500 Token 新输入、生成 500 Token 输出,共 1,000 次请求,模型选 Claude Sonnet 5(输入 $2 / 输出 $10 每 MTok)。估算方法为按各计费项的 Token 数乘以对应单价后求和,不含重试、失败请求与网络成本。

场景 输入侧成本 输出成本 合计
不使用缓存 20,500 × 1,000 × $2/MTok = $41.00 $5.00 $46.00
5 分钟缓存,命中率 99.9% 写入 $0.05 + 读取 $4.00 + 尾部未缓存 $1.00 = $5.05 $5.00 $10.05(−78.2%)
5 分钟缓存,命中率 0 每请求重复写入 20,000 × 1.25 + 500 → $51.00 $5.00 $56.00(+21.7%)

分点论证

1. 缓存省的是「重复前缀」,不是「全部输入」

计费只对落在缓存断点之前、且逐 Token 与上次一致的那段内容生效。表 2 里可缓存的是 20,000 Token 的系统提示与知识库,每次新增的 500 Token 永远按未缓存价计费。所以「缓存命中率 90%」不等于「账单降 90%」——分母里混着本来就无法缓存的部分。

2. 写入倍率决定了回本需要几次命中

  • 5 分钟档(Anthropic、OpenAI GPT-5.6 及更新):写入 1.25×、读取 0.1×。写一次、读一次的总代价是 1.25 + 0.1 = 1.35,对比两次全价输入的 2.0,已在回本线内。
  • 1 小时档(Anthropic):写入 2×、读取 0.1×。2 + 0.1×3 = 2.3,对比 3.0 才划算,因此需要累计命中 3 次(含写入那一次)才回本。
  • 长序列摊薄:10 次请求共享一次写入,总输入成本从 10× 降到 1.25 + 0.9 = 2.15×,约省 78.5%。

Anthropic 官方定价页给出的判据是「5 分钟档命中一次即回本,1 小时档要命中两次」,与我们上面的算式一致,可自行核对。

3. 折扣越深,越要把命中率当成第一指标

DeepSeek 的价差最极端:deepseek-flash 错峰时缓存命中 $0.003、未命中 $0.15,相差 50 倍;deepseek-v4-pro 为 $0.022 与 $0.66,相差 30 倍。Anthropic 与 OpenAI 的标准折扣是 90%(0.1×),Fable 5.1 与 Mythos 5.1 上进一步压到 97.5%(0.025×)。

但折扣只作用在能命中的那部分 Token 上,这也是大模型 API 价格降幅与命中率强绑定的原因。前缀里任何一处逐 Token 变化,都会让该位置之后的内容全部失效——DeepSeek 按完整前缀单元匹配,中间插一个字符就可能整段丢命中。

4. 输出 Token 不在缓存的作用范围内

Claude Sonnet 5 上输出 $10/MTok 是输入 $2/MTok 的 5 倍,gpt-5.6-terra 上输出 $12 是输入 $2 的 6 倍。表 2 中输入侧从 $41 降到 $5.05,输出侧的 $5.00 一动不动。在输出占比高的场景——长文生成、代码生成、带长推理链的大模型推理——缓存对总 Token 成本的天花板很明显,此时模型分级和输出长度控制比缓存更有效。

适用边界与反例

反例一:命中率趋近 0 时,缓存反而更贵。 见表 2 第三行,写入倍率 1.25× 若每次请求都重新写入而从不命中,输入成本从 $41 涨到 $51,涨幅 24.4%,整单涨 21.7%。常见触发条件:前缀里混进了时间戳、请求 ID、随机排序的 few-shot 样本,或者负载分散在多个实例上、缓存路由不到同一台机器。

反例二:Gemini 的存储费会让低频场景倒挂。 Gemini 显式缓存除按缓存输入单价(0.1×)计费,还按小时收存储费:Gemini 3.1 Pro Preview 为 $4.50/MTok/小时,Gemini 3.8 Flash 为 $0.50。以一个 20,000 Token 的缓存挂满 1 小时为例(估算值):

  • 期间发 10 次请求:无缓存输入 $0.40;缓存方案 = 存储 $0.09 + 缓存输入 $0.04 = $0.13,省 67%。
  • 期间发 3 次请求:缓存方案 $0.102 对比无缓存 $0.12,只省 15%。
  • 期间只发 1 次请求:缓存方案 $0.094 对比无缓存 $0.04,反而贵 1.35 倍。

存储费按时间走而不是按用量走,这是它与其他三家的关键差别。另外 Google 定价页标注,2027 年 1 月 1 日起 Gemini 3.8 Flash 系列标准输入价由 $0.75 上调至 $1.50,缓存价同步翻倍,做长期预算时要按新价重算。

反例三:最小缓存长度是硬门槛,且不报错。 Anthropic 的门槛依型号从 512 Token(Opus 5、Fable 5.1)到 4,096 Token(Haiku 4.5、Opus 4.6)不等;OpenAI GPT-5.6 及更新为 1,024 Token;Gemini 3.x Flash 为 4,096 Token。低于门槛的请求会被静默按无缓存处理,不返回错误。验证方法是查响应里的 usage 字段:Anthropic 上若 cache_creation_input_tokens 与 cache_read_input_tokens 同时为 0,说明这次根本没写进缓存。

反例四:TTL 与请求间隔不匹配。 TTL(Time To Live,缓存存活时间)在 Anthropic 上默认 5 分钟,命中即免费续期,因此请求间隔稳定小于 5 分钟时应当继续用 5 分钟档,而不是去买写入倍率翻倍的 1 小时档。反过来,用户可能几分钟才回一句的对话、或耗时超过 5 分钟的 agent 子任务,5 分钟档会持续过期,这时 1 小时档才成立。OpenAI GPT-5.6 及更新的 TTL 为 30 分钟,部分早期型号可选内存档(约 5–10 分钟空闲)或 24 小时档。

行动建议

  1. 先量命中率,再谈省钱。 上线前用缓存读取 Token 数除以总输入 Token 数得到真实命中率。低于「写一次、读一次」的临界点,缓存就是纯支出。
  2. 把稳定内容往前放。 系统提示、工具定义、知识库文档、固定示例放最前,时间戳、会话 ID、用户输入放最后。缓存对前缀是逐 Token 匹配,顺序本身就是成本。
  3. 给前缀划定缓存断点,而不是全量缓存。 Anthropic 支持在内容块上标记 cache_control 断点,断点本身不额外计费;OpenAI 自 GPT-5.6 起支持显式断点,最后一处断点之后的内容按未缓存价计费、不收写入费。把易变内容挡在断点之后最划算。
  4. 按请求间隔选 TTL。 间隔小于 5 分钟用 5 分钟档;间隔落在 5 分钟到 1 小时之间、且频次高于每小时一次,1 小时档才值得买。
  5. 把缓存与批量折扣、模型分级叠起来算。 Anthropic 的 Batch API 与缓存倍率可叠加,先打五折再叠缓存折扣,与只叠缓存相比,绝对值差别很大。顺序不同,对整体大模型 API 价格的影响也不同。
  6. 低频、长前缀场景优先考虑隐式缓存或无写入费方案。 Gemini 2.5 及之后默认开启隐式缓存、命中折扣自动传导;DeepSeek 无写入费、命中即近乎免费,小流量下比显式缓存更安全。具体费率请以各厂商当日定价页为准。

以上测算均基于公开定价页,属估算值,未计入重试、失败请求、数据驻留加价与批量折扣的叠加差异,实际账单以厂商账单为准。本文不构成采购或投资建议。


IDCToken · 2026 年 9 月 21 日

相关阅读

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注

滚动至顶部