- AI
- 日常
- 日常@Rorysky 啊?合理起来了...不过今天上了个 fast 模型,从输出速度,首字延迟和缓存占比来看就是 100%官转,基本等价官方 40$额度,和之前说 9.28 之后恢复 40$额度的公告一致。至少比 opencode 更有诚意,挨打也立正。
- 日常@getadoggie 换 fast 模型,这个模型就是官转,首字延迟 500ms 到 2s 左右,和之前官转水平一致
- 日常@calcoe 前几天还是一样的,我混着用,都是 250t/s
- 日常@sentinelK 是的,还有个问题是用不了官方的 file ,官方把 kv cache 延长到了保持 3 天,这个自部署的大概率是不行的,也就是说跨天的会话再重新开,缓存直接爆炸
- 日常
- 日常
- 日常@yelog #7 我是通过扫数据库,通过字符重叠给出每条记忆的相似度,返回 40 条候选,40 条打乱丢给 jev 进行打分,我测了本地 303 条记忆,原本向量库的召回准确率 40%左右,jev 的召回准确率 74%。当然也和我原本的记忆插件一般般有关吧 hhh ,你可以让 ai 去试试,现有的方案和 jev 的方案有什么差别
- 日常@yelog 我测试了在记忆召回中效果非常好,命中率极高,而且不需要向量分词
- 日常哪 Proraw 还能拍吗? QLC 也不至于那么烂啊...apple 怕不是被坑了
- 日常
- 日常