• dyskyside

    额度昨天刚用完了,暂时测不了。。。现在看到两个观点,一个是tibo说开启1m上下文不会像api一样增加额外付费,另一个是openai的员工说资费会相应变多,不知道谁是对的

    主楼
  • Sensei

    我觉得对于又长又重的任务来说有开的价值,但是大部分情况下还是不开吧,等oai不额外收费再开 ^-^

    #1
  • ishadows

    这种一般是说api的价格吧…

    codex有点黑箱

    https://help.openai.com/en/articles/20001106-codex-rate-card

    codex费用的文档没说长上下文的价格

    #2
  • FFFFFFFFFir

    tibo之前针对250和353解释过开到353并不会双倍计费,但是上下文大了token量多,费用其实也依然会上升。而且注意力就那么点,上下文大了会劣化,无脑开1m可能会带来反效果,我个人认为开到最初的353就差不多了,反正有远程压缩的黑科技,压缩上下文其实也没那么大影响

    #3
  • Sensei

    用credits也好解释,1m上下文的缓存token多了,每次请求需要多付缓存token的credits,所以1m按比例说是272k的4倍credits消耗?^-^

    #4
  • ishadows

    想问的是每M的单价会不会在长上下文像api那样增加

    不好说,tibo之前说353k上下文不额外计费,但现在又有人发帖说会

    #5
  • qdd28

    上下文长了。肯定会增加资费,就是你单次对话框带着这些东西

    #6
  • Owen01

    虽然有缓存命中打底,但是模型幻觉和注意力会让任务的成功率下降。目前模型 1m 不是主流是有原因的

    #7
  • Xiebro

    资费肯定会变高,codex 和网页聊天模型不一样,不是上下文越多越好的,官方给 272k 压缩不是扣,而是在长任务中利用压缩提取主干,避免幻觉

    #8

发表回复

登录后回复