Prompt caching 定价解析(2026):各家缓存到底能省多少
用 520 个模型的实际价格数据,比较各提供商的缓存读取折扣与写入溢价,并以每天 1,000 次请求、20k token 前缀的实例算出开不开缓存的月成本差与盈亏平衡点。
1. 什么是 prompt caching,这份数据能回答什么
生产环境里的 LLM 流量大多是重复的。客服机器人每个问题都带着同一份 5,000 token 的政策文档;coding agent 每一轮都重发 system prompt、tool schema 和到目前为止的整段对话。Prompt caching 让提供商复用已经处理过的 prompt 前缀,这部分 token 按较低的"缓存输入"价格计费,而不是完整的 input 价格。对前缀占比高的工作负载,这通常是账单上最大的一个杠杆,比大多数换模型的决定影响更大。
本文用本站自己的价格数据库来量化这个杠杆。数据截至 2026-10-05:在目录里 520 个有定价的模型中(不含 :batch 变体和 ~latest 别名;其中 67 个是标价 $0 的免费版本),286 个标有缓存输入价(占 453 个付费模型的 63%),77 个(17%)标有单独的缓存写入价;下文各提供商的模型数只计付费模型。我们对每个模型计算两个比值:缓存读取折扣(cached input ÷ input)和缓存写入溢价(cache write ÷ input)。
有一个前提会影响下面所有结论:这些是 OpenRouter 的路由价,反映的是 OpenRouter 当前默认路由到的 endpoint。真正决定能不能命中缓存的提供商规则(缓存条目保留多久、可缓存的最短 prompt 长度、要显式标记缓存断点还是由提供商自动缓存)都不在价格数据里,所以本文不陈述这些细节,请查各家官方文档。价格数据能给我们的是:缓存读取价、有的话的写入价,以及部分模型的长 prompt 分级价。
2. 各家的缓存读取折扣
先看总体:目录里的中位数模型,缓存 token 按 input 价的 12.5% 计费;有缓存价的模型中 44% 在 10% 或更低,其中 286 个里恰好有 109 个定价为 input 的十分之一。但底下的分布很宽,选模型时真正有影响的正是这个分布。
| 提供商 | 有缓存价的模型数 | 缓存价 ÷ input 中位数 | 范围 | 是否标有缓存写入价 |
|---|---|---|---|---|
| OpenAI | 56 / 77 | 10% | 5%–203%* | 14 个模型(GPT-5.6、GPT-6 系列),input 的 1.25 倍 |
| Anthropic | 24 / 24 | 10% | 2.5%–12% | 全部 24 个,input 的 1.2–1.25 倍 |
| 23 / 31 | 10% | 10%–56% | 20 个模型,固定 $0.04–$0.38/M(低于 input) | |
| Qwen(阿里) | 31 / 59 | 20% | 9%–70% | 19 个模型,多数为 input 的 1.25 倍 |
| Mistral AI | 19 / 26 | 10% | 10%–11% | 无 |
| Z.ai(智谱) | 16 / 17 | 19% | 10%–100%* | 无 |
| xAI | 15 / 15 | 25% | 10%–25% | 无 |
| DeepSeek | 13 / 17 | 38%* | 2%–100%* | 无 |
| 小米 | 8 / 8 | 2% | 0.8%–20% | 无 |
| MiniMax | 6 / 8 | 10% | 10%–20% | 无 |
| 月之暗面(Moonshot AI) | 5 / 7 | 25% | 16%–33% | 无 |
| NVIDIA | 4 / 9 | 55% | 20%–75% | 无 |
* 包含缓存价等于或高于 input 价的行,这通常意味着混合 endpoint,而不是真的没有折扣(例如 gpt-oss-120b 的 input 是 $0.037/M,缓存价却是 $0.075/M;DeepSeek V4 Flash 两者都是 $0.03/M)。比值达到 100% 以上时,请当作数据质量警示,到提供商官网核对。
有三个明显的规律。第一,折扣随世代加深。OpenAI 的 GPT-4o 系列、o1、o3-mini 缓存输入是 input 的 50%;GPT-4.1、o3、o4-mini 是 25%;GPT-5 系列是 10%;GPT-6.1 Sol 是 5%($0.10/M 对 $2.00/M),缓存价只有 GPT-6 Sol($0.20/M)的一半。Anthropic 也有同样的趋势:Claude Sonnet 和 Opus 档位是 10%,但 Claude Opus 5.5 是 5%($4.00/M 的 input 对 $0.20/M),Claude Fable 5.1 是 2.5%($10.00/M 对 $0.25/M,Fable 5 则是 $1.00/M)。
第二,极端值出在低价团队。小米的 MiMo-V2.6 Pro 缓存输入价 $0.0036/M,input 为 $0.435/M,折扣高达 99.2%。DeepSeek V4.1 Flash 是 $0.30/M 对 $0.006/M(2%),DeepSeek V3.2 则是整齐的 10%($0.28/M 对 $0.028/M)。另一端,NVIDIA 和一些小型托管方只给 20–75% 的折扣,命中缓存省下的钱远不如别处。
第三,覆盖度不均。NVIDIA 9 个付费模型里只有 4 个、月之暗面 7 个里只有 5 个标有缓存价。如果你要拿长前缀工作负载比较模型,没有缓存价的模型(目录里有 25 个提供付费模型的提供商完全没标)等于每个 token 都按全价计费。
用这张表的一个快速算法:prompt 中可缓存部分的有效价格是 h × r + (1 − h) × w,以 input 价的比例表示。命中率 80% 时,读取价 10% 且没有写入溢价的模型,前缀按标价的 28% 计费(0.8 × 0.10 + 0.2 × 1.00);5% 的模型是 24%;读取价 10% 但写入价 1.25 倍的模型是 33%(0.8 × 0.10 + 0.2 × 1.25);折扣只有 50% 的模型,即使命中率 100% 也降不到标价的一半以下。
3. 谁对缓存写入另外收费
缓存读取只是价格结构的一半。部分提供商在前缀第一次被存入时,还会收高于正常 input 的费率。从价格数据来看:
- Anthropic:每个模型都收。24 个模型里有 23 个的写入价是 input 的 1.25 倍(Claude 3 Haiku 是 1.2 倍)。例如 Claude Sonnet 4.6 是 input $3.00/M、写入 $3.75/M、读取 $0.30/M。24 个 Anthropic 模型中,还有 21 个在数据里带有另一个独立的
input_cache_write_1h价格,一律是 input 的 2 倍(Sonnet 4.6 为 $6.00/M),说明一般的写入价对应的是存活较短的档位。确切的时长不在数据里,请查 Anthropic 文档。 - OpenAI:只有最新的系列。14 个模型标有写入价,为 input 的 1.25 倍(GPT-5.6 Sol/Luna/Terra、GPT-6 与 GPT-6.1 系列)。GPT-5.4、GPT-5.5 以及更早的模型只标读取价,所以缓存未命中只是按正常 input 计费。
- Qwen:集中在 Plus/Max/Flash 档位。19 个模型标有写入价,多数为 input 的 1.25 倍(例如 Qwen3.7 Plus 是 $0.40/M 对 input $0.32/M)。
- Google:有数字,但不是溢价。20 个 Gemini 行标有
cache_write值,但它低于 input 价(Pro 模型为 $0.375/M,Gemini 3.6–3.8 Flash 为 $0.0417/M),而且在 input 价相差 15 倍($0.10 到 $1.50/M)的各个 Flash 模型上都是同一个 $0.0833/M。不随 input 缩放的数字,看起来更像存储类费用而不是 input 的倍数。下文不把它当作写入溢价,预算前请先读 Google 的文档。 - 其余我们检查过的(DeepSeek、月之暗面、Z.ai、MiniMax、xAI、Mistral、小米等):没有写入价。缓存未命中按正常 input 计费,命中则是纯折扣。
实际的后果是风险不对称。没有写入价时,缓存不可能亏钱;有 1.25 倍写入价时,一个写入后从未被复用的前缀,会比完全不用缓存多花 25%。
4. 实算示例:20k token 前缀,每天 1,000 次请求
设想一个助手,有 20,000 token 的前缀(system prompt 加 tool 定义),每次请求都完全相同。每次请求另外带 500 个新的 input token,返回 400 个 output token。流量是每天 1,000 次,每月 30,000 次。令 P = 20,000(前缀 token),n = 500,o = 400,每百万 token 价格分别为 p(input)、r(缓存读取)、w(写入;模型没有写入溢价时取 p)、q(output)。前缀缓存命中率为 h 时:
每次请求成本 = ( P × [ h × r + (1 − h) × w ] + n × p + o × q ) ÷ 1,000,000
不用缓存时令 h = 0、w = p。价格取自数据库(截至 2026-10-05):
| 模型 | Input $/M | 缓存读取 $/M | 写入 $/M | Output $/M |
|---|---|---|---|---|
| Claude Sonnet 4.6 | $3.00 | $0.30 | $3.75 | $15.00 |
| GPT-5.4 | $2.50 | $0.25 | 无 | $15.00 |
| GPT-6.1 Sol | $2.00 | $0.10 | $2.50 | $10.00 |
| Gemini 3.1 Pro Preview | $2.00 | $0.20 | 不适用(见第 3 节) | $12.00 |
| Kimi K2.6 | $0.95 | $0.16 | 无 | $4.00 |
| DeepSeek V3.2 | $0.28 | $0.028 | 无 | $0.42 |
30,000 次请求的月成本,三种前缀命中率:
| 模型 | 不用缓存 | h = 100% | h = 90% | h = 50% | 盈亏平衡 h |
|---|---|---|---|---|---|
| Claude Sonnet 4.6 | $2,025 | $405 | $612(−70%) | $1,440(−29%) | 21.7% |
| GPT-5.4 | $1,718 | $368 | $503(−71%) | $1,043(−39%) | 任何命中都划算 |
| GPT-6.1 Sol | $1,350 | $210 | $354(−74%) | $930(−31%) | 20.8% |
| Gemini 3.1 Pro Preview | $1,374 | $294 | $402(−71%) | $834(−39%) | 任何命中都划算 |
| Kimi K2.6 | $632 | $158 | $206(−67%) | $395(−37%) | 任何命中都划算 |
| DeepSeek V3.2 | $177 | $26 | $41(−77%) | $102(−43%) | 任何命中都划算 |
怎么读:这几个模型的前缀都占未缓存账单的 87–95%,所以缓存价决定了结果,output 价格几乎没影响(output 只占未缓存总额的 3–11%)。手算验证一行:Sonnet 4.6 不用缓存,每次请求是 20,500 × $3.00 ÷ 1M + 400 × $15.00 ÷ 1M = $0.0615 + $0.0060 = $0.0675,乘以 30,000 得 $2,025。命中率 90% 时,前缀成本是 20,000 × (0.9 × $0.30 + 0.1 × $3.75) ÷ 1M = $0.0129,总额为 $612。还要注意,模型之间的绝对差距远大于缓存的效果:开了缓存的 DeepSeek V3.2 每月 $26,约是开了缓存的 Sonnet 4.6 的 1/15,当然这还没问质量差异值不值。要用自己的用量估算未缓存那一侧,可以用费用计算器。
盈亏平衡。付费写入一次性多花 w − p,之后每次读取省 p − r,所以需要的复用次数是:
复用次数 k > (w − p) ÷ (p − r) 或换成命中率: h > (w − p) ÷ (w − r)
Sonnet 4.6 是 (3.75 − 3.00) ÷ (3.00 − 0.30) = 0.28 次,也就是复用一次就已经回本,换成命中率形式是 21.7%。GPT-6.1 Sol 是 0.26 次(20.8%)。1 小时写入档位更严格:(6.00 − 3.00) ÷ 2.70 = 1.11,Sonnet 4.6 需要在时间窗口内复用两次。没有写入溢价时(w = p)分子为零,任何命中都省钱。真正的难点不在复用次数,而在你的流量能不能让缓存条目一直活着,这取决于提供商的缓存存活时间。每天 1,000 次均匀分布,大约每 86 秒一次,但真实流量是一阵一阵的。
5. 缓存帮不上忙的情况
- output 占主导的调用。缓存只折扣 input。保持 500 个新 token,把前缀缩到 2,000、output 提到 2,000 token,在 Sonnet 4.6 上:不用缓存每次 $0.0375,完全命中是 $0.0321,只省 14%,而不是 80%。
- 前缀其实不稳定。缓存依赖 prompt 开头共同的部分。放在 prompt 顶部的时间戳、用户名或被重新排序的 tool 列表,会让它后面的所有内容都不同。静态内容放前面,每次请求才变的内容放最后。
- 流量低或集中爆发。如果请求之间缓存条目已过期,就要反复付写入费。对 1.25 倍写入价的模型,命中率低于约 22% 比不用缓存更糟。
- prompt 低于提供商的最低长度,或模型没有缓存价。可缓存的最短长度因提供商而异,也不在价格数据里,请查文档。目录里 37% 的付费模型没有标缓存价。
- 长 prompt 分级价。55 个模型带有超过 prompt 长度门槛才生效的覆盖价。GPT-5.4 超过 272,000 prompt token 后变为 input $5.00、缓存 $0.50、output $22.50;Gemini 3.1 Pro 超过 200,000 后变为 $4.00 / $0.40 / $18.00。折扣比例不变,但基数变了。
- 可疑数据。混合 endpoint 的模型出现 100% 的比值,通常是路由造成的假象,不是真的有这种报价。
6. 依赖缓存之前的检查清单
- 量出你的稳定前缀占比:每次请求中,从 prompt 开头起完全相同的 token 数。
- 查出模型的三个价格(input、缓存读取、写入),计算 (w − p) ÷ (w − r)。
- 阅读提供商文档,确认缓存存活时间、最低长度,以及缓存是自动还是需要手动开启。
- 把请求间隔与缓存存活时间对照,估一个现实的命中率,而不是 100%。
- 重排 prompt,静态内容在前,可变内容在后;保持 tool 列表稳定。
- 记录 API 返回的缓存 token 数,用一周的账单对照。
- 如果有调用会跨过价格分级门槛,用长 prompt 的尾部情形重算一次。
按 token 计费的基础可参考token 定价指南;同一个模型为什么在不同平台价格不同,可参考为什么 LLM 价格因平台而异。