• cz129454

    就是用来写写文章,没其他多余要求,不要太弱智就行了

    主楼
  • zzq

    搞个 qwen3.8 27B。

    参考 Qwen3.8 27B 单16G显存显卡本地测试与部署教程(128K上下文+视觉保留)

    #1
  • unravel

    本地别想用来写文章了…随便找个豆包元宝都强

    #2
  • cz129454

    哈哈,就是想尝试一下,今年中午有时间学习一下ai,后悔没配好一点显卡

    #3
  • TRIGGER2227

    本地玩玩图片生成视频生成吧,文章别想了,上下文撑不住的

    #4
  • bad

    是的生成速度也慢。现在的dpskv4f这个api性价比太高了。就算不是梁文谷而是梁文峰的价格都算是超级便宜大碗!

    #5
  • cz129454

    哎,试了一下,生成速度太慢了,还是老老实实接api吧。

    #6
  • ionase

    qwen3.8 27B 的话差不多40~50token/s吧,但说实话如果不是为了做一些nsfw的东西没理由不去用api

    #7
  • unravel

    好点的显卡也是那样,可以做生图和视频。个人本地大模型都不如api

    #8
  • cz129454

    确实会用到有一些敏感词汇,我找了个无审查的qwen27b,不过本地太慢了,接入agent写一篇得花好长时间。

    #9
  • ionase

    毕竟api的速度都是几百甚至上千tps的

    我自己是之前试过用来操控浏览器批量下一些nsfw的东西,然后他跑了几个小时就干了我可能十几分钟就能弄完的东西 ^-^

    然后就放弃折腾了,本地想玩大模型消费级显卡还是太慢了

    #10
  • cz129454

    是的,大佬,我还是研究一下agent怎么用吧,不瞎搞了,这ai发展太快了,老年人都跟不上了

    #11
  • 缘木求鱼

    用来玩一下游戏就好了,跑模型就算啦

    #12

发表回复

登录后回复