关于本地模型部署的疑惑
5811
- Skyirdfish2026-10-20
想问问大家本地部署的模型都有什么？除了qwen系列有没有别的？有没有投入日常的生产，怎么投入的？还是仅仅玩角色扮演？ ^-^ ^-^ ^-^
主楼 - Shikanor2026-10-20
我不确定能不能行，我觉得可以部署训练一个Laya去充当决策子节点
- Grogu2026-10-20
本地模型很多，除了 Qwen，还有 Gemma，Deepseek，GLM，Cohere 的各种， Mistral 的，IBM 的 Granite 等等，用于不有数据安全隐私需求的 Agent
- 时牧2026-10-20
本地部署这块，个人用户还是玩生图和视频的多一点，无审查随便搞
- gangpula322026-10-20
还有个叫minicpm的小模型，别的只有千问了
- leioukupo2026-10-20
- lihua-linuxdo2026-10-20
本地也就玩玩生图生视频了，语言模型要上硬货才能部署能用的，小参数的纯玩具
- Skyirdfish2026-10-21
minmaxh3,还有前一阵子的qwen image 2.1我都尝试过，动漫的还有anima,3d建模的也尝试过
- Skyirdfish2026-10-21
显存12G,确实有点卡脖子，小参数就只能当玩具了
- Skyirdfish2026-10-21
3.8 27b量化是多少？27b好像确实是本地模型最能打的了，还有多模态
- leioukupo2026-10-21
- Skyirdfish2026-10-21
自己训练的吗？这个我没尝试过，可以看看