bd, 送给其他人吧

@韵归 #5 ok

@韵归 #3 不需要直连。要便宜

官方的问题，一会一卡的，白白浪费token， 大概20~30%。 md 然后效率极低。完全用不了了，。

不但慢，还不行，astra ultra 和 sol 都是这样。 我靠啊。

@qwe7758521 #1 自己的啊。想开多少开多少 ^-^

pp挺好的，但是被滥用了。

@zhy001 #15 马上周年庆了， ^-^

@zhy001 #3 自己用啊，要从zouter plus迁移上去了。

cera

我有两种锐驰，一个是450 3年，一个是800多点3年。

@wzx #4 是的

@vastness #3 你看下，我没用 6sol

@Hephes #2 不是啊，请假回家了。

--ctx-size 131072 --parallel 1 --device CUDA0,CUDA1 --split-mode tensor --gpu-layers auto --batch-size 1024 --ubatch-size 256 --flash-attn on --cache-type-k f16 --cache-type-v f16 --reasoning on --spe

羡慕了。

马上黑5了。

我感觉自建光伏容易着火，除非你定期清理鸟窝。

@pl6 #10 太贵了，我那个改内存 + 6000 我看着从1.2w涨到了 2w，离谱。不过咸鱼上还有1.5~1.7的

@pl6 #8 128g的 我等到国庆后再搞，主要是395，卖点team还债（/dog） ^-^ ^-^ 。 主要是 目前这样的方案比我买395便宜。 我只有个32g的395 ^-^

不嫌慢的话花1w多点，内存 + 显卡，qwen next flash 反正是能跑，大概10~20ts的输出。 我自己目前就是5070ti x 1（之前买来玩游戏的） + 2080ti x 3 ， + 72g ddr4 qwen27b 无审查 a8的，俩2080ti 22g 就可以跑了大概5k。