• HanesW

    开业推广声明

    本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容:

    - 我的帖子已经打上 开源推广 标签: 是

    - 我的开源项目完整开源,无未开源部分: 是

    - 我的开源项目已链接认可 LINUX DO 社区: 是

    - 我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是

    - 以上选择我承诺是永久有效的,接受社区和佬友监督: 是

    以下为项目介绍正文内容,AI生成、润色内容已使用截图方式发出



    背景:因为本人手中会有多个中转站和免费的资源,但是由于这些资源的不稳定性,会导致每次发生点什么都要修改agent配置文件来换其他的LLM源。同时,我又使用了不同的agent,有些修改起来比较麻烦,所以促成了这个项目的诞生——做一个本地的个人中转站。

    目标:

    - 频繁换渠道上游通过本站处理,映射到一个本地的服务上,减少agent上需要修改的内容

    - 支持一个渠道多个key的轮询,可以规避一些并发限制

    - 支持自动协议转换(openai,messages,responses)

    - 支持模型映射,可以将不同上游渠道的模型映射成一个

    - 支持agent的配置一键切换

    - 后面可能会增加一些省token的功能

    github.com

    GitHub - morning-start/silk: 一个本地端点,三大协议任意互转

    一个本地端点,三大协议任意互转

    目前已经 1.0.0 版本,使用没有太大问题了。

    图片

    图片

    主楼
  • 只想呼噜睡大觉

    很不错哎,关注了,学习一下

    #1
  • HanesW

    图片

    渠道可以添加多个,渠道的模型默认不在silk的/v1/models中,可以使用穿透自动放进去。

    图片

    模型池支持自定义模型id,这里的模型会自动放入 v1/models。

    图片

    支持多个agent的配置修改,参考ccswitch的功能。可以一键导入之前配置的渠道。

    图片

    #2

发表回复

登录后回复