- AI
- AI
- AI拭目以待, 懂的都懂 且听龙吟, 提头来见! 不过看opencode的label,glm5.5 ds 4.1pro k3.1都在路上了
- AI还有一个可能性是凡是后训练在奖励函数里尝试优化token效率的,都不可避免的让模型开始压缩表达造成了说黑话的结果
- AI感觉越会说黑话的模型感觉越是过拟合,说人话的模型反而不过拟合,大概是因为其参数化记忆已经没有给他留下好好说话的空间,典型例子就是sol和muse spark1.3,最近ds flash和glm5.3 flash也有这个倾向
- AI事实上随着各种skill和上下文管理技巧被内化到模型内之后,omo越来越不重要了,fixer本身丢失上下文过多轮次一多容易出现累计误差弄出来各种奇奇怪怪的bug,真正有用的大概只有explorer这个角色拿来加速冷启动过程以及省一点探索费用了 目前我感觉最合理的架构应该是基于omp的tan那种命令做强化,也就是基于当前上下文前缀fork出几个subagent,然后并行作业来加速,作业完毕summa