Prompt caching 定价解析(2026):各家缓存到底能省多少

用 520 个模型的实际价格数据,比较各提供商的缓存读取折扣与写入溢价,并以每天 1,000 次请求、20k token 前缀的实例算出开不开缓存的月成本差与盈亏平衡点。

1. 什么是 prompt caching,这份数据能回答什么

生产环境里的 LLM 流量大多是重复的。客服机器人每个问题都带着同一份 5,000 token 的政策文档;coding agent 每一轮都重发 system prompt、tool schema 和到目前为止的整段对话。Prompt caching 让提供商复用已经处理过的 prompt 前缀,这部分 token 按较低的"缓存输入"价格计费,而不是完整的 input 价格。对前缀占比高的工作负载,这通常是账单上最大的一个杠杆,比大多数换模型的决定影响更大。

本文用本站自己的价格数据库来量化这个杠杆。数据截至 2026-10-05:在目录里 520 个有定价的模型中(不含 :batch 变体和 ~latest 别名;其中 67 个是标价 $0 的免费版本),286 个标有缓存输入价(占 453 个付费模型的 63%),77 个(17%)标有单独的缓存写入价;下文各提供商的模型数只计付费模型。我们对每个模型计算两个比值:缓存读取折扣(cached input ÷ input)和缓存写入溢价(cache write ÷ input)。

有一个前提会影响下面所有结论:这些是 OpenRouter 的路由价,反映的是 OpenRouter 当前默认路由到的 endpoint。真正决定能不能命中缓存的提供商规则(缓存条目保留多久、可缓存的最短 prompt 长度、要显式标记缓存断点还是由提供商自动缓存)都不在价格数据里,所以本文不陈述这些细节,请查各家官方文档。价格数据能给我们的是:缓存读取价、有的话的写入价,以及部分模型的长 prompt 分级价。

2. 各家的缓存读取折扣

先看总体:目录里的中位数模型,缓存 token 按 input 价的 12.5% 计费;有缓存价的模型中 44% 在 10% 或更低,其中 286 个里恰好有 109 个定价为 input 的十分之一。但底下的分布很宽,选模型时真正有影响的正是这个分布。

提供商 有缓存价的模型数 缓存价 ÷ input 中位数 范围 是否标有缓存写入价
OpenAI56 / 7710%5%–203%*14 个模型(GPT-5.6、GPT-6 系列),input 的 1.25 倍
Anthropic24 / 2410%2.5%–12%全部 24 个,input 的 1.2–1.25 倍
Google23 / 3110%10%–56%20 个模型,固定 $0.04–$0.38/M(低于 input)
Qwen(阿里)31 / 5920%9%–70%19 个模型,多数为 input 的 1.25 倍
Mistral AI19 / 2610%10%–11%无
Z.ai(智谱)16 / 1719%10%–100%*无
xAI15 / 1525%10%–25%无
DeepSeek13 / 1738%*2%–100%*无
小米8 / 82%0.8%–20%无
MiniMax6 / 810%10%–20%无
月之暗面(Moonshot AI)5 / 725%16%–33%无
NVIDIA4 / 955%20%–75%无

* 包含缓存价等于或高于 input 价的行,这通常意味着混合 endpoint,而不是真的没有折扣(例如 gpt-oss-120b 的 input 是 $0.037/M,缓存价却是 $0.075/M;DeepSeek V4 Flash 两者都是 $0.03/M)。比值达到 100% 以上时,请当作数据质量警示,到提供商官网核对。

有三个明显的规律。第一,折扣随世代加深。OpenAI 的 GPT-4o 系列、o1、o3-mini 缓存输入是 input 的 50%;GPT-4.1、o3、o4-mini 是 25%;GPT-5 系列是 10%;GPT-6.1 Sol 是 5%($0.10/M 对 $2.00/M),缓存价只有 GPT-6 Sol($0.20/M)的一半。Anthropic 也有同样的趋势:Claude Sonnet 和 Opus 档位是 10%,但 Claude Opus 5.5 是 5%($4.00/M 的 input 对 $0.20/M),Claude Fable 5.1 是 2.5%($10.00/M 对 $0.25/M,Fable 5 则是 $1.00/M)。

第二,极端值出在低价团队。小米的 MiMo-V2.6 Pro 缓存输入价 $0.0036/M,input 为 $0.435/M,折扣高达 99.2%。DeepSeek V4.1 Flash 是 $0.30/M 对 $0.006/M(2%),DeepSeek V3.2 则是整齐的 10%($0.28/M 对 $0.028/M)。另一端,NVIDIA 和一些小型托管方只给 20–75% 的折扣,命中缓存省下的钱远不如别处。

第三,覆盖度不均。NVIDIA 9 个付费模型里只有 4 个、月之暗面 7 个里只有 5 个标有缓存价。如果你要拿长前缀工作负载比较模型,没有缓存价的模型(目录里有 25 个提供付费模型的提供商完全没标)等于每个 token 都按全价计费。

用这张表的一个快速算法:prompt 中可缓存部分的有效价格是 h × r + (1 − h) × w,以 input 价的比例表示。命中率 80% 时,读取价 10% 且没有写入溢价的模型,前缀按标价的 28% 计费(0.8 × 0.10 + 0.2 × 1.00);5% 的模型是 24%;读取价 10% 但写入价 1.25 倍的模型是 33%(0.8 × 0.10 + 0.2 × 1.25);折扣只有 50% 的模型,即使命中率 100% 也降不到标价的一半以下。

3. 谁对缓存写入另外收费

缓存读取只是价格结构的一半。部分提供商在前缀第一次被存入时,还会收高于正常 input 的费率。从价格数据来看:

  • Anthropic:每个模型都收。24 个模型里有 23 个的写入价是 input 的 1.25 倍(Claude 3 Haiku 是 1.2 倍)。例如 Claude Sonnet 4.6 是 input $3.00/M、写入 $3.75/M、读取 $0.30/M。24 个 Anthropic 模型中,还有 21 个在数据里带有另一个独立的 input_cache_write_1h 价格,一律是 input 的 2 倍(Sonnet 4.6 为 $6.00/M),说明一般的写入价对应的是存活较短的档位。确切的时长不在数据里,请查 Anthropic 文档。
  • OpenAI:只有最新的系列。14 个模型标有写入价,为 input 的 1.25 倍(GPT-5.6 Sol/Luna/Terra、GPT-6 与 GPT-6.1 系列)。GPT-5.4、GPT-5.5 以及更早的模型只标读取价,所以缓存未命中只是按正常 input 计费。
  • Qwen:集中在 Plus/Max/Flash 档位。19 个模型标有写入价,多数为 input 的 1.25 倍(例如 Qwen3.7 Plus 是 $0.40/M 对 input $0.32/M)。
  • Google:有数字,但不是溢价。20 个 Gemini 行标有 cache_write 值,但它低于 input 价(Pro 模型为 $0.375/M,Gemini 3.6–3.8 Flash 为 $0.0417/M),而且在 input 价相差 15 倍($0.10 到 $1.50/M)的各个 Flash 模型上都是同一个 $0.0833/M。不随 input 缩放的数字,看起来更像存储类费用而不是 input 的倍数。下文不把它当作写入溢价,预算前请先读 Google 的文档。
  • 其余我们检查过的(DeepSeek、月之暗面、Z.ai、MiniMax、xAI、Mistral、小米等):没有写入价。缓存未命中按正常 input 计费,命中则是纯折扣。

实际的后果是风险不对称。没有写入价时,缓存不可能亏钱;有 1.25 倍写入价时,一个写入后从未被复用的前缀,会比完全不用缓存多花 25%。

4. 实算示例:20k token 前缀,每天 1,000 次请求

设想一个助手,有 20,000 token 的前缀(system prompt 加 tool 定义),每次请求都完全相同。每次请求另外带 500 个新的 input token,返回 400 个 output token。流量是每天 1,000 次,每月 30,000 次。令 P = 20,000(前缀 token),n = 500,o = 400,每百万 token 价格分别为 p(input)、r(缓存读取)、w(写入;模型没有写入溢价时取 p)、q(output)。前缀缓存命中率为 h 时:

每次请求成本 = ( P × [ h × r + (1 − h) × w ] + n × p + o × q ) ÷ 1,000,000

不用缓存时令 h = 0、w = p。价格取自数据库(截至 2026-10-05):

模型 Input $/M 缓存读取 $/M 写入 $/M Output $/M
Claude Sonnet 4.6$3.00$0.30$3.75$15.00
GPT-5.4$2.50$0.25无$15.00
GPT-6.1 Sol$2.00$0.10$2.50$10.00
Gemini 3.1 Pro Preview$2.00$0.20不适用(见第 3 节)$12.00
Kimi K2.6$0.95$0.16无$4.00
DeepSeek V3.2$0.28$0.028无$0.42

30,000 次请求的月成本,三种前缀命中率:

模型 不用缓存 h = 100% h = 90% h = 50% 盈亏平衡 h
Claude Sonnet 4.6$2,025$405$612(−70%)$1,440(−29%)21.7%
GPT-5.4$1,718$368$503(−71%)$1,043(−39%)任何命中都划算
GPT-6.1 Sol$1,350$210$354(−74%)$930(−31%)20.8%
Gemini 3.1 Pro Preview$1,374$294$402(−71%)$834(−39%)任何命中都划算
Kimi K2.6$632$158$206(−67%)$395(−37%)任何命中都划算
DeepSeek V3.2$177$26$41(−77%)$102(−43%)任何命中都划算

怎么读:这几个模型的前缀都占未缓存账单的 87–95%,所以缓存价决定了结果,output 价格几乎没影响(output 只占未缓存总额的 3–11%)。手算验证一行:Sonnet 4.6 不用缓存,每次请求是 20,500 × $3.00 ÷ 1M + 400 × $15.00 ÷ 1M = $0.0615 + $0.0060 = $0.0675,乘以 30,000 得 $2,025。命中率 90% 时,前缀成本是 20,000 × (0.9 × $0.30 + 0.1 × $3.75) ÷ 1M = $0.0129,总额为 $612。还要注意,模型之间的绝对差距远大于缓存的效果:开了缓存的 DeepSeek V3.2 每月 $26,约是开了缓存的 Sonnet 4.6 的 1/15,当然这还没问质量差异值不值。要用自己的用量估算未缓存那一侧,可以用费用计算器。

盈亏平衡。付费写入一次性多花 w − p,之后每次读取省 p − r,所以需要的复用次数是:

复用次数 k > (w − p) ÷ (p − r)   或换成命中率:   h > (w − p) ÷ (w − r)

Sonnet 4.6 是 (3.75 − 3.00) ÷ (3.00 − 0.30) = 0.28 次,也就是复用一次就已经回本,换成命中率形式是 21.7%。GPT-6.1 Sol 是 0.26 次(20.8%)。1 小时写入档位更严格:(6.00 − 3.00) ÷ 2.70 = 1.11,Sonnet 4.6 需要在时间窗口内复用两次。没有写入溢价时(w = p)分子为零,任何命中都省钱。真正的难点不在复用次数,而在你的流量能不能让缓存条目一直活着,这取决于提供商的缓存存活时间。每天 1,000 次均匀分布,大约每 86 秒一次,但真实流量是一阵一阵的。

5. 缓存帮不上忙的情况

  • output 占主导的调用。缓存只折扣 input。保持 500 个新 token,把前缀缩到 2,000、output 提到 2,000 token,在 Sonnet 4.6 上:不用缓存每次 $0.0375,完全命中是 $0.0321,只省 14%,而不是 80%。
  • 前缀其实不稳定。缓存依赖 prompt 开头共同的部分。放在 prompt 顶部的时间戳、用户名或被重新排序的 tool 列表,会让它后面的所有内容都不同。静态内容放前面,每次请求才变的内容放最后。
  • 流量低或集中爆发。如果请求之间缓存条目已过期,就要反复付写入费。对 1.25 倍写入价的模型,命中率低于约 22% 比不用缓存更糟。
  • prompt 低于提供商的最低长度,或模型没有缓存价。可缓存的最短长度因提供商而异,也不在价格数据里,请查文档。目录里 37% 的付费模型没有标缓存价。
  • 长 prompt 分级价。55 个模型带有超过 prompt 长度门槛才生效的覆盖价。GPT-5.4 超过 272,000 prompt token 后变为 input $5.00、缓存 $0.50、output $22.50;Gemini 3.1 Pro 超过 200,000 后变为 $4.00 / $0.40 / $18.00。折扣比例不变,但基数变了。
  • 可疑数据。混合 endpoint 的模型出现 100% 的比值,通常是路由造成的假象,不是真的有这种报价。

6. 依赖缓存之前的检查清单

  1. 量出你的稳定前缀占比:每次请求中,从 prompt 开头起完全相同的 token 数。
  2. 查出模型的三个价格(input、缓存读取、写入),计算 (w − p) ÷ (w − r)。
  3. 阅读提供商文档,确认缓存存活时间、最低长度,以及缓存是自动还是需要手动开启。
  4. 把请求间隔与缓存存活时间对照,估一个现实的命中率,而不是 100%。
  5. 重排 prompt,静态内容在前,可变内容在后;保持 tool 列表稳定。
  6. 记录 API 返回的缓存 token 数,用一周的账单对照。
  7. 如果有调用会跨过价格分级门槛,用长 prompt 的尾部情形重算一次。

按 token 计费的基础可参考token 定价指南;同一个模型为什么在不同平台价格不同,可参考为什么 LLM 价格因平台而异。