- Sky3902026-08-1824753
如题,看到佬友的 All API Hub 上有个统一 API 设置,想问问自建 AI 网关将 api key 聚合成一个有用吗,会不会掉速?我用的大部分都是中转站。
主楼 - 𝙋𝙚𝙩𝙖𝙡𝙨2026-08-186578
- Sky3902026-08-1824753
- Scheme2026-08-1825209
- 𝙋𝙚𝙩𝙖𝙡𝙨2026-08-186578
都可以啊,就你自己用的话下个可执行程序在本地用就行了
- Sky3902026-08-1824753
- 拓真2026-08-1812108
只会增加点延迟 好处就是你策略写的好可以做到负载均衡 不间断的蹬
- 𝙋𝙚𝙩𝙖𝙡𝙨2026-08-186578
你如果想很多个渠道很多个模型都用的话,可以整个网关路由到一起。
只有一个渠道的话,你想看一些更详细点的日志分析的话也可以放到网关用
路由到一块的模型能力差距不要太大了,不然用起来也挺难绷的(神区二相性)
- icheer2026-08-1829414
我也不想混合不同渠道暴露相同模型,这样感觉很黑盒。所以我的new-api用
tencent/deepseek-v4-flash||nvidia/deepseek-v4-flash这样的{渠道id}/{模型id}来做重定向,使用的时候也知道自己正在用哪个渠道的模型 - 诸葛御风2026-08-1859607
new-api能自动冷却和熔断及重试吗?
- jue2026-08-185173
好用啊,cliproxyapi呗,我还以为谁都会搞一个呢,好处就是token统计、还有方便管理。
- icheer2026-08-1829414
