- zhq566昨天1950
5060ti 16g ,只能部署量化后 qwen3.8 coder Q3 ,感觉慢还傻傻的。
升级显卡需要花的钱是不是该直接买商用付费版本就好了。主楼 - skallz昨天2350
真想本地部署可以买个那种两三万的小主机,虽然慢,但是好歹能部署能用的,不过折腾半天发现算上硬件和电费还不如直接用 deepseek ,更别说那些更强的模型了
- 2441
现在连老矿卡都大幅涨价了,更别说为了跑什么 strata 买更大的 ddr5 内存。硬件成本实在太高了,买大肥鱼 api 搞搞得了
- Nasdaq昨天1384
跑跑 Decisions 类的可以,其他通用的真的拉胯,不如用小梁的。