300k上下文只有个位数的输出速度,难绷
短上下文倒是正常速度
正常速度是200-400吧
只有100k以内的短上下文能上200,再长一点就要打折扣了,多半是自部署算力不够
这是10刀的订阅？
对的 10刀goat
