• BooleChara

    这两个月出来好多强大的国产模型,K3、D4f-正式版、Qwen-3.8-Max、D4p-正式版、GLM-5.3,都宣称多么接近Fable-5,但没有一个超越的,难道国产都是“蒸功夫”吗?

    说实话我看到v4-flash那么强的时候,真的很看好Deepseek-v4-Pro的,没想到原子弹只炸了一次。然后今天智谱GLM-5.3也出来了,也没能超过Fable-5。之前看到都说XX模型蒸馏claude或者GPT,我都当作坊间传闻看的,现在我也对国产模型有点失望了,也开始怀疑是蒸馏。在顶尖算力比国外弱上十倍甚至数十倍的情况下,国产还有机会吗?

    个人感觉,关注蒸馏的主要意义在于“这个力量是不是自己的”(好像Anthropic自己也蒸自己)。如果先训练一个自己的模型(教师模型),再从这个模型上蒸馏出一个轻量模型(学生模型),效果保留90%,那就很优秀;但如果这个教师模型是别人的,那么说服力和创新性就大打折扣了。

    匿名投票

    - 相信国模,只是算力差距,架构会赢的

    - 感觉国模一直会比顶尖弱一些

    - 我怀疑有蒸馏

    - 我觉得没有蒸馏

    - 吃瓜,选这项看答案

    0
    投票人

    主楼
  • yi_yi

    蒸馏就蒸馏呗,相近的性能更低的价格,我不支持国产难道送钱给外国入吗

    #1
  • jerry_y

    kimi下个版本不出意外能超过fable 5,但 fable也要出新版本了

    #2
  • Xiwis_Homed

    性能接不接近不知道,价格倒是接近了

    #3
  • jcc

    规模不是一个级别的,肥波估计有5t了

    等 k4 的规模扩展吧,感觉有希望

    或者glm的下一代扩展规模的版本,应该也可以

    #4
  • Harmoney

    我觉得蒸馏不是什么问题,A\也蒸得一股GPT味。现在开源模型追着这些顶级模型蒸馏,我们才能继续用上便宜大碗的顶级模型。

    #5
  • 还想成为88VIP

    A/也就是一个fable了,opus4.6往后也没哪个opus特别好吧。k3这样已经很好了

    #6
  • MoZiHan

    为什么总有人在意蒸馏不蒸馏的问题,就明确的讲现在没有哪个模型是不蒸馏的,大家都是合成数据(就是所谓蒸馏的数据)+人工标注数据,区别只是比例而已

    #7
  • Ya_Gao

    天天吹牛逼,咩一个能打的,还涨价

    #8
  • Pebble

    确实国模一哥了好像

    图片

    哔哩哔哩

    图片

    GLM5.3,国模一哥,开源第一|屎山考核_哔哩哔哩_bilibili

    用屎山代码考核国产开源大模型GLM5.3,已经完成。来自屎山的点评:一哥之争,本该如此, 视频播放量 5399、弹幕量 74、点赞数 371、投硬币枚数 156、收藏人数 54、转发人数 39, 视频作者 Token就是词元, 作者简介 AI有意思,相关视频:突发:智谱发布 GLM-5.3 模型!,67秒带你了解史上Star增长最快的开源项目DeepSeek Harness!,反转!眩晕瘫坐!V4...

    #9
  • mark

    我只在乎低价的中高等模型可以用就够了

    #10
  • 我思故我在

    智谱的国际版跟国内版有什么区别吗?一直在看到家讨论什么国内版的抢不到。有佬能解惑吗?我没用过除了ds以外国模。

    #11
  • BooleChara

    确实,K3刚出来的时候我也觉得原子弹爆炸了,它一口气搜了四十多个论文,总结出来一个巨长的文档(

    #12
  • 翠花上酸菜

    当前就是追不上,算力只有别人百分之一可能都不到,怎么超?

    #13
  • Doro2077

    不是无法超越,而是超越了没有性价比,把模型参数拉高一倍力大砖飞肯定随便超越,部署的成本指数增长,国内也没多少算力最后没人用得起有什么用,claude现在就是进退两难opus这几代压根没啥进步

    图片

    #14
  • vinda

    跑分从来没输过,但是过一段时间大家就不怎么讨论了 ^-^

    #15
  • BooleChara

    感觉大家还是关注“这个力量是不是自己的”。写论文的时候如果先训练一个自己的模型(教师模型),再从这个模型上蒸馏出一个轻量模型(学生模型),效果保留90%,那就很优秀;但如果这个教师模型是别人的,那么说服力和创新性就大打折扣了

    #16
  • Kassdin

    还在跑分没输过,即使是 glm 5.3 跑分赢了吗?

    #17
  • 还想成为88VIP

    哪怕真的跑分没输过,opus4.7也干了

    #18
  • Kassdin

    没超过 Fable 就是蒸馏吗?

    Grok 4.6、5.6 Sol 是不是蒸馏的?

    Fable 跑分不如 opus5. 那 fable 是不是蒸馏的 opus?

    另外,怎么定义“超越”呢?是benchmark上全面碾压,还是要说体感和社区认可度?还是Arena盲测?本身这就是笔糊涂账

    还是先把自己逻辑捋顺吧…

    佬眼中蒸馏 fable 的模型 belike :

    图片

    #19

发表回复

登录后回复