• 她的高玩

    佬们,目前课题组算力不足了;导儿给了25W预算购置显卡,组内目前全是NVIDIA的显卡(3090、A6000),平时课题组主要用于深度学习模型训练,并不部署本地大模型推理使用(但不考虑以后会不会考虑部署本地模型,毕竟现在Qwen3.8 27B还是很吸引人的)。

    预算卡在这里也挺尴尬的,目前多卡A6000,48G的显存已经不够用了,我倾向于RTXpro6000D,但可能只能买两张;佬们能给一些建议和支持吗?国产卡如果对pytorch支持好、价格划算的也可以接受。

    主楼
  • sheng

    蹲一下抄一下配置,万一以后需要呢?

    #1
  • wdon

    现在很多框架对华为卡的支持都还可以

    #2
  • 雪球

    搞科研不建议用华为卡了,现在99%的科研工作都是用的cuda,生产用华为原厂支持适配还可以考虑。

    #3
  • Grogu

    RTX Pro 6000 现在应该还是最具性价比的

    #4
  • deepsleep

    本地部署就不需要专门考虑了,有闲置拿来玩还是不错,现在flash模型这么便宜还比qwen3.8 27B好;国产卡还是不太建议,生态优先,除非有infra高手

    #5
  • nanzhiwei

    Qwen3.8 27B A6000跑起来挺好的,买卡pro6000很不错,pro6000x2就够跑deepseek v4 flash了

    #6
  • fsdsyscxy

    RTX Pro 6000 这张卡简直是贫民用的神

    #7
  • ffifdyop

    不要买6000D,6000D的算力被锁得很厉害,GEMM根本跑不满功耗,除了fp32其它各精度还不如4090,训练最常用的bf16只有pro6000的不到一半。

    #8

发表回复

登录后回复