• 大鲨鱼

    图片

    官网:

    https://www.stepfun.com/

    跳代发布:编号从 Step 3.x 直接跳到 Step 5,官方未解释跳过 Step 4.X 的原因

    未官宣先“偷跑”上 Artificial Analysis,Intelligence Index,43.6–44,600B 总参/27B激活/1M 上下文,27B 激活,外星科技吗?

    模型 |
    总参 |
    每 token 激活 |
    激活率 |
    上下文 |
    权重状态 |

    Kimi K3 |
    2.8T |
    104B |
    3.7% |
    1M |
    已开源 |

    GLM-5.3 |
    753B |
    40B |
    ~5.3% |
    1M |
    已开源 |

    Step 5 Preview |
    600B |
    27B |
    4.5% |
    1M |
    计划 10月15日开源 |

    「600B 参数追平 2.8T 的 K3」,有点儿哈人啊,真牛的,更小的总规模 + 更小的每 token 计算量,达到了同等智能分数,代价是知识容量上限和长尾能力上通常不如大总参模型,这也是为什么 AA 显示它输出极其冗长(160M tokens vs 中位数 92M),以及 Terminal-Bench 4.0 的 33.3% 仍低于 GLM-5.3 的 41.9%

    图片

    已接入 pi 开始体验,感觉就是一个字:慢

    图片

    主楼
  • yooyui

    《Textbooks Are All You Need》 (2023) — phi-1 / phi-2 系列

    《Alpaca: A Strong, Replicable Instruction-Following Model》 (2023)

    “蒸馏”一直是“捷径”。

    #1
  • Flaymes

    实际使用感觉怎么样

    #2
  • 大鲨鱼

    很慢

    #3
  • 1952444901

    确实,无论是首token响应还是执行的速度都慢得离谱,各种雷霆大思考

    #4
  • 1952444901

    而且动不动还429

    #5
  • johnie

    确实慢

    #6
  • 0510

    芝麻大的事,思考太多了,磨磨唧唧搞半天,

    #7
  • lveln

    慢出天际

    #8
  • longyu117

    图片

    #9

发表回复

登录后回复