lao1 me
AI服务器日常推广公告
搜索
菜单
主题回帖收藏
  • 996
    qwen4系列首曝,下一代max,plus,qwen4-27B。阿里云杭州云栖大会上午总结热
    上下文小一点,16gb能跑量化版的,也可能qwen4会有更好的压缩上下文技术
    9962026-09-22AI19acai
    AI
  • cumquat
    cursor 怎么买性价比最高?
    还有量大,还喜欢vscode看代码的话也方便些
    cumquat2026-09-14AI3她的比赛不进去
    AI
  • ChricHuang
    大家现在都在用哪个agent?codex,claudecode,dsh,pi?说说原因
    想用哪个模型,就用他家的工具
    ChricHuang2026-09-14AI7看到我,叫我去学习
    AI
  • arthas
    Qwen3.8-27B-FP8 部署兼容性问题咨询热
    GitHub - fengwm64/vllm-cuda126-builder: Auto-build vLLM Docker image with CUDA 12.6 via GitHub Actions · GitHub 有支持低版本cuda的构建项目,可以试试能否降到12.2
    arthas2026-08-21AI12dovelie_z
    AI
  • arthas
    Qwen3.8-27B-FP8 部署兼容性问题咨询热
    能用cuda12.2重编译vllm及其依赖吗,或者转llama.cpp跑gguf
    arthas2026-08-21AI12dovelie_z
    AI
  • ezios
    RTX4060-8G本地运行Qwen3.6 35B A3B模型;台式机,拓展坞双场景测试结果热
    是的,激活参数少,比9B的稠密模型快多了,最占显存的反而是预开辟的上下文
    ezios2026-05-20AI14LenGary
    AI
  • ezios
    RTX4060-8G本地运行Qwen3.6 35B A3B模型;台式机,拓展坞双场景测试结果热
    3060 12G显存,很容易跑到40~52/t/s
    ezios2026-05-20AI14LenGary
    AI
acai
acai
Lv1 · lao1 0
TA的主题TA的回帖我的称号TA的收藏
提示