我看站里老哥分享说GOAT订阅能用几十亿token,结果发现好像也就能用个两三亿的样子
这啥情况呀?
更新:
这性价比真的拉完了
绝了 5h用完了
要看缓存吧,然后要是再叠加高峰定价,就挺不耐用的
我只执行了一个任务(一个prompt),也就是说整个上下文都理应是高缓存的
另外现在这个点不是高峰期,我用的所有时间也都不是高峰期
那确实用得有点快了,建议套个 New-API 之类的中转,看看实际缓存率怎么样。
要是缓存率很低的话,那这家多少就有点坑了
绝了:
排查下是不是api接口格式或者agent终端的问题