• 最上川

    图片

    使用测试样本来源:

    本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容:

    我的帖子已经打上 开源推广 标签: 是
    我的开源项目完整开源,无未开源部分: 是
    我的开源项目已链接认可 LINUX DO 社区: 是
    我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是
    以上选择我承诺是永久有效的,接受社区和佬友监督: 是

    以下为项目介绍正文内容,AI生成、润色内容已使用截图方式发出

    前天发起了…

    IP质量如下

    测试结果1

    图片

    测试结果2

    图片


    平均下来TPS多11.08,高 45.08%

    ^-^测试仅供参考,实测以实际为准喵

    主楼
  • popyui

    图片

    图片

    前者ippure分数极度纯净,codex嗷嗷降智。

    后者平庸,但是从来没出现过问题。

    我真不知道评判标准是啥

    #1
  • 最上川

    ^-^会是地区的问题喵?洛杉矶高人一等的嘛?

    #2
  • leonfox28

    openai的数据中心在哪?是不是单纯的离得近?

    #3
  • 0xqaxwm

    还真是啊,我最近是感觉速度比以前变快了,难道这是OAI新的小巧思

    图片

    #4
  • 最上川

    ^-^一般来说服务器响应延迟不是按毫秒算的喵

    #5
  • leonfox28

    看计算方法吧,如果首token延迟也被计算在tps里,那你本地机器->代理->openai的服务器延迟就挺重要了,尤其是你用脚本测试,应该没开ws,sse连接时每次消息来回应该都会走一次握手。假如首token延迟增加了1s并且这个测试有十轮思考或者工具调用,那就相当于总时间增加了10s

    #6
  • Hao-linuxdo

    sse连接时每次消息来回应该都会走一次握手。假如首token延迟增加了1s并且这个测试有十轮思考或者工具调用,那就相当于总时间增加了10s

    并非你说的这样,一次完整的流式响应只需要建立一次 http 连接

    #7
  • leonfox28

    不是的,以工具调用为例,每次工具调用完成返回结果,这就是一次SSE连接结束。最简单的你可以接一个cpa或者sub2api,看请求记录里几次工具调用就是几次连接

    #8

发表回复

登录后回复