• martinpeng

    公司觉得接 ds api 成本太高了并且基本不可能命中缓存(每个人的对话内容都不一样),请问各位大佬有什么好的渠道或者方案没

    主楼
  • sideblue

    命不命中缓存跟对话内容没啥关系,你跟deepseek对话又不是跟公司的沙雕对话

    #1
  • PJ568

    多路由一些源头?国家超算互联网,OpenCode Go(如果能接受的话)?这两平均消耗大概是官方的一半。

    但是这些源的质量不如 DS 官方的。

    #2
  • PJ568

    它们用户多,上下文数量多,不命中缓存的部分就多。

    #3
  • martinpeng

    对外的产品主要用 flash;opencode go 额度怎么样

    #4
  • 摇摆熊

    对话类的产品嘛,不行试试2api呢,反正也不调用工具啥的,封号几率小

    #5
  • jerryust

    deepseek的官方api好像没有免除训练的隐私协议,这个你们要注意下

    #6
  • martinpeng

    是的 公益站的 ds 一般都是通过 2api 来的吗

    #7
  • Miluko

    是我想的那个web2api吗…… ^-^

    这是商业用途,不太好吧

    #8
  • martinpeng

    感谢佬的提醒,我去看看别到时候还搞出事情来了

    #9
  • 摇摆熊

    肯定是不合规,但是现在也没有法律法规,灰色地带

    #10
  • jerryust

    我们也考虑过用deepseek的api降本,但是研究了一下隐私协议,发现好像deepseek不免除api的训练数据使用。一般来说是云服务商的api会明确写不用对话内容训练,但是code套餐的一般都会用来训练,所以如果用code套餐反代,肯定是会被拿来训练的。

    #11
  • null

    公司的产品,首先要稳。

    目前接的是ds官方api对吧。

    建议你不要出主意,如果你的主意被采纳。生产出问题之后,别人一句话:那谁谁谁建议采购的这个。背锅的就是你。

    #12
  • Miluko

    都公司出钱了,还要弄2api吗……

    况且普通的对话,一般公司产品内使用都是有明确边界的,也花不了多少token

    (反正不是自己出钱 ^-^ )

    #13
  • shawn

    为什么不自己训练一个小模型内嵌进去呢,成本又低反正能用就行

    #14
  • 烟火

    公司花钱那就接官方呗,你出新的方案到时候出什么问题全找你

    #15
  • martinpeng

    现在没有人懂这块的东西,产品基本已经完善 就看能不能降低成本

    #16
  • martinpeng

    是的 我不想接这个东西 但是领导指定我让我出方案对比 ^-^

    #17
  • Miluko

    都ds了还降本吗……

    佬说下具体的应用场景吧,主要是看上下文长不长,缓存命中情况如何,对模型智力要求高不高,不然也不好做判断 ^-^

    #18
  • edmond_XU

    先找几个人测试一下命中率,命中率过得去的话,佬也不用头疼发愁了

    #19

发表回复

登录后回复