无奇 · 2026-08-04T09:18:00+08:00

4090显卡之前一直部署的Qwen3 14b.tops还不错,但是tool calling和指令服从效果不如意最近在一些地方看这种参数小的模型数qwen3.6 27b最好佬们给点提示,效果如何.目前主要用ollama那qwen3.6 14b怎么样,特别是指令服从这块

无奇2026-08-04
16408
4090显卡之前一直部署的Qwen3 14b.tops还不错,但是tool calling和指令服从效果不如意
最近在一些地方看这种参数小的模型数qwen3.6 27b最好
佬们给点提示,效果如何.目前主要用ollama
那qwen3.6 14b怎么样,特别是指令服从这块
主楼
M1saka2026-08-04
26535
本地模型里很强的存在了，但是估计会慢不少，比起你之前跑的14b
#1
HeriX2026-08-04
4436
3.6 27b肯定要比3 14b强很多很多
但是代价是tps下降很多
其实可以等qwen3.8 27b开放权重再试试?
#2
blaumeer2026-08-04
16450
有官方消息会出3.8 27b吗？
#3
HeriX2026-08-04
4436
阿里据说是要开源qwen3.8 max和 27B 两个模型
#4
十万大山的山大王2026-08-04
52897
DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF
用这个，我用过的最最最牛逼的 Qwen3.6-27B 微调模型，没有之一。David 的魔改微调黑科技。
#5
kaiyin2026-08-04
21326
Qwen3.6-27B公司实际部署在用，真实体验感觉挺强挺好用，并且目标检测方面更是强的不行（相比较小参数本地模型）（仅供参考）
#6
Eason2026-08-04
10424
部署了 qwen3.6:35b-a3b 一直在做翻译，大材小用了
#7
miduo2026-08-04
52945
我5060的显卡，不知道部署这个模型怎么样
#8

登录后回复

求佬们解惑 Qwen3.6 27b本地部署效果怎么样