- Rugters2026-08-0634413
有没有大佬在Mac 笔记本本地部署过本地大模型,量化的那种能不能简单的写写代码,做做独立站的文章之类的,或者是本地生图的模型?
主楼 - 9C2026-08-0635876
M1 32G 跑 MLX 版 Qwen2.5-7B 量化很流畅,写文章够用
- Eric122026-08-064387
- mason2026-08-0631839
开源模型 7B、16B都没啥问题啊
- 卡卡西2026-08-064326
huggingface.co

mlx-community/Qwen3.6-35B-A3B-4bit · Hugging Face
We’re on a journey to advance and democratize artificial intelligence through open source and open science.
4bit的Qwen3.6-35B,应该是目前能跑起来的性价比最高的。生图可以用
flux2-klein-9b-8bit - ted2026-08-0610258
- Belope2026-08-0623767
顶配的 m1max 跑个 8bit 量化的 mlx 35ba3b 的速度基本上是可接受的极限…