• DalyDai

    佬们,求助,我们公司自己搭建的中转,公司内部使用,架构是new-api+cpa+cloudflare(主要隧道穿透),目前买了10个gpt号放在号池,公司同时使用大概也就10人左右,但是速度很慢很卡

    因为服务器是公司电脑,所以在这个电脑上通过clash verge进行访问,然后怕ip不稳,就买了一个jp静态家宽ip接到了clash verge上,所以整体链路是:个人请求 → 公司服务器 → new api-> cpa → clash verge → jp静态家宽(共享宽带,下行20Mbps,上行不稳定,有时4Mbps,有时36Mbps) → openai,因为我不是很懂网络,只能这么描述,但是现在就是请求特别不稳定,时快时慢,首字特别慢,如下图所示:

    有哪位佬能帮我一下啊,我要崩溃了,不知道怎么弄了,或者有没有其他更好的方案啊 ^-^ ^-^

    图片

    主楼
  • 卡里姆•汗

    一般是用国外服务器搞的,用电脑感觉可能带宽不够?

    #1
  • freeqbar

    首字时高时低的,多半是中间哪一环堵塞了,一个个排查过去吧

    #2
  • unsafe

    个人请求 → 公司服务器 → new api-> cpa → clash verge → jp静态家宽

    能否改成```
    个人请求 → 线路机[cpa/new-api] -> 落地[jp静态家宽]

    #3
  • DalyDai

    不怎么会排查,因为对网络不懂,但是结合ai排查,感觉是开在了日本带宽那边了

    图片

    #4
  • DalyDai

    但是我的服务器是国内的,无法直接到jp静态家宽

    #5
  • DalyDai

    国外服务器怎么购买,我看很多云服务器容易被风控

    #6
  • unsafe

    如果老板同意或预算充足,弄个国外的机子方便多了

    #7
  • DalyDai

    不知道咋弄呢,没有这方面的信息,也不知道问谁,所以求助各位大佬

    #8
  • 晚饭不想吃食堂

    你这个延迟大概率是在这一段了

    clash verge → jp静态家宽

    这个速度约等于 2.5 MB/s,也就是用户–>服务器的速度限制

    服务器的上传速度是4 Mbps-36 Mbps转换一下就是0.5 MB/s-4.5 MB/s

    同时10个人在用,100K-200K的上下文,请求体大小普遍在500kb左右,如果有文件的话请求体大小在1MB-10MB

    先按照500kb的请求体来计算,10个人大致上是5MB的大小,传输到jp家宽大概2-3s左右,家宽发送到OpenAI服务器大概是的1s(36 Mbps)-10s(4 Mbps)。平均首字大概是在3-13s之间

    你要稳定点的话,建议买海外的服务器吧,不用走公司的服务器。为啥服务器在公司还要走cf tunnel啊,这不是又加了一段延时嘛

    建议简单点,个人请求–> CDN/cf tunnel → 海外服务器newapi cpa → jp家宽(可选)–> OpenAI

    买一台海外的服务器大概率可以解决,家宽这段可以不用加(速度不稳定纯纯减速器

    PS:

    我同学之前用的,一个请求10MB,也不知道带了啥 ^-^

    图片

    #9
  • DalyDai

    佬友,教我怎么搞呗(舔着脸问),我不知道怎么搞国外服务器,也不知道要花费多少

    #10
  • jiyujie

    你搞个线路机,然后再搞个美国家宽。主要看你预算够不够

    #11

发表回复

登录后回复