• 羽织

    先说结论

    对于deepseek-v4-flash,纯输入输出价格上涨的影响大于甚至远大于同倍率下缓存命中价格上涨的影响

    最近ds要涨价,今日逛鸦,看到一个评论,说涨价更应该关注缓存命中部分,因为token占比太大:

    图片

    仔细一想,确实是这样,随便截了一段比较高的:

    图片

    粗略计算一下,缓存命中部分占比大概是:97%

    这么一看,对于我这种使用agent/代码开发的,好像确实token里绝大多数都是缓存命中

    那么,真的是缓存命中价格上涨对我影响最大吗?


    先以deepseek-v4-flash价格为例

    图片

    若按我上面图片里的进行计算各自百分比:

    缓存命中:97.49%

    缓存未命中:2.23%

    输出:0.28%

    按上面比例放大,倘若一共使用了 100M token,总费用就是:

    97.49×0.02+2.23×1+0.28×2= 4.7398 元

    现在分别计算缓存命中变为2×和输入输出变为2×的总费用

    若缓存命中变为2×,也就是0.04元/M

    97.49×0.04+2.23×1+0.28×2= 6.6896 元

    涨价幅度为:(6.6896-4.7398)/4.7398= 41.1%

    同理,若只涨价未命中和输出为原来2×

    97.49×0.02+2.23×2+0.28×4= 7.5298 元

    涨价幅度为:(7.5298-4.7398)/4.7398= 58.9%

    可见还是纯输入输出部分对我们的影响更大

    需要注意的是,上面的缓存命中和输入率实际上是很高的

    讨论更一般的情况

    以opencode官方数据为例:

    DeepSeek V4 Flash 使用量、成本与排名 | OpenCode 数据

    里面有写,96%都是输入token

    倘若还是上面那个命中比例,97.49/(2.23+97.49)= 97.7%

    大概就是输入token里,97.7%都是命中部分

    那总共就是:

    缓存命中:93.8%

    缓存未命中:2.2%

    输出:4%

    按上面百分比分别计算100Mtoken总费用为:

    原价:12.076

    缓存命中2×:13.952 涨价幅度为:15.5%

    纯输入输出2×:22.276 涨价幅度为:84.5%

    可见仅仅是下降1-2个百分点,成本上涨放大倍率就很恐怖了,影响更大

    总结:对于deepseek-v4-flash,纯输入输出价格上涨的影响大于甚至远大于同倍率下缓存命中价格上涨的影响

    留个坑,后续或许可以做成一图流,计算市面上所有模型涨价的倍率分布图,更直观

    主楼
  • lueluelue

    感觉还有个问题就是 Deepseek V4 Flash 上下文能力不太行,上下文开低了,缓存就低了

    #1
  • 伽利略

    费用的结构差异来自两部分:

    - 命中涨 2× 影响 = 0.02 × 命中占比

    - 未命中+输出涨 2× 影响 = 未命中占比 + 2 × 输出占比

    令两者相等:0.02 × 命中 = 未命中 + 2 × 输出,代入我自己数据里的输出占比 0.45%,临界点在 命中占比 ≈ 98.5%(总 token)/ ≈ 98.9%(输入口径):

    - 命中占比 低于 ~98.5% → 楼主结论成立(纯输入输出影响大)

    - 命中占比 高于 ~98.5% → 翻转(缓存命中影响大)

    #2
  • 伽利略

    编程任务中缓存占比可以高达99.5%甚至更高。

    #3

发表回复

登录后回复