我的交通 visa 为啥还没到。

说不定 8.9 是一个月的。下个月让你再交 8.9 不是炸了吗

用的哪个量化？

环境呢？咋支付的

这也太多了 我用cdoex感觉就2w左右

那我未审查谁给我补上。我现在16g好歹能用27b给我开个头，接deepseek， 什么都能做

剔除掉n gram 也不够啊。 vllm支持专家卸载了吗 。 那我16g显存能带不 我在llama里是25token/s 预填充大概800/s

40g 够么

atk a9 air 大师版。 这个我用着比狗2强点

快就是好。 好就是快

glm5.3 倒是翻一翻啊。flash不爱用

 这是我用本地部署的iq4 xs qwen flash 做的。 用zocode他自己改了几下。我觉得还可以

连mac mini +windows 日常还可以，但画质一般，ips也就这样了，加上索尼调光也不能改命

而且deepseek 应该是原生fp8+fp4， glm的是全fp8 ，权重大小可能差了一倍。deepseek 快很多的。

deepseek 13b vs glm 18b 。 glm肯定要强点的，不然对不起他消耗的资源。

我的 5.6 甚至 5.5 都路由到这个模型了。日期 04 年 6 月，画的鹈鹕会起飞