• Hao-linuxdo

    在 Codex 中开启 fast mode 似乎并没有变快多少,基本无感

    图片

    观察日志发现,不管请求中是否携带 priority,响应中都是 default

    图片

    难道说这个设置没有起到任何作用吗

    主楼
  • AnGeH

    你网关看上去像是没弄好fast的兼容

    看这个样子像是给OpenAI发的还是普通的非fast

    #1
  • Hao-linuxdo

    CLIProxyAPI 反代的,看请求日志里面的转发请求体 priority 参数是透传给 OpenAI 的。

    我觉得有两种可能:

    - OpenAI 按 default 处理,没有加速效果

    - OpenAI 按 priority 处理,有加速效果,但是响应中并没有标明 priority

    不知道是哪一种,可能需要大规模测试,统计 tps 分布才能得结论,我这边还没有足够的 priority 数据,有足够多数据的佬友可以统计一下看看

    #2
  • floralsei

    我是官方订阅,没改成custom的provider,大多数都是开fast模式,codex会跟我说开了这个会优化我几百个小时的工作时间(上周)

    #3
  • Hao-linuxdo

    codex会跟我说开了这个会优化我几百个小时的工作时间(上周)

    这是咋估计出来的,按官方说法也只有 1.5 倍提速啊 ^-^

    #4
  • floralsei

    我有额度,我让他跑一下试试

    图片

    #5
  • RyanVan

    老问题了,api使用开fast不生效,必须手动改包

    #6
  • Aerxz

    刚开始出的好像有用速度有点快,后来更新5.5 5.6之后,速度上没感觉了,token消耗倒是有

    #7
  • Chinamobile

    cli不存在这个问题吧,只是app不生效需要改包。

    另外sub2api需要改透传,不知道楼主用的什么

    #8
  • wanya

    我官方订阅的用codex,开fast感觉确实快了一点。

    #9
  • Hao-linuxdo

    我用的 CPA,priority 参数应该是默认透传的

    App 不能设置 fast 这个问题似乎可以在 CPA 上强行注入 priority 参数来解决

    #10
  • floralsei

    图片

    用的官方订阅直接登录的,没接第三方provider,测试结果出来了,快了百分之二,气笑了

    #11
  • synthale

    用的官方订阅,尝试过 CLI 和 Codex App,都是请求 priority,响应 default,还从未见过相应 priority 的

    #12

发表回复

登录后回复