- AI
- AI电脑上用web端和cli,电脑macbook,手机用app,手机iphone,desktop app没下载过。其他全都默认,不过我主力是苹果电脑,没有动系统的东西,不晓得windows的情况。
- AI用固定ip+苹果支付感觉基本上没问题。我google邮箱注册+IDC机房节点都稳。至于中文时区啥的感觉没有太大必要。
- AI感觉不太现实,Moe使用的人多批量推理好处是计算集群的使用率上升,单位成本平摊下来更加低吧,moe路由和参数都是冻结的,不存在说同一个模型在不同负载下会出现大幅度的智商波动,除非供应商切换模型量化程度。不过有一种情况像你说的就是供应商在业务高负载私自下注入提示词降低思维链长度导致智商下降的可能,比如google之前爆出疑似api和订阅思维链长度削减出现这样的情况,这样就会。你要研究得控制变量自部署
- AI那没办法,27B只是方便本地部署,没说成本会比满血flash低。线上推理的成本还是看激活参数的。拿来卖性价比确实不如满血的flash。