热门

最新

红包

立Flag

投票

同城

发布
weixin_36991803
李德甲
2 年前
trueweixin_36991803

我们看到推理成本显著降低（超过20%），而几乎不影响付费用户群体的留存。

这表明即使在当前模式下也有很多效率提升的空间。
评论
10
  • 复制链接
  • 举报
下一条：
我们最近在一个拥有10万以上用户的应用程序中尝试了前沿模型的用户级别和全局阈值实验，当每日的代币预算达到“x”代币后，模型会自动切换到一个成本降低10倍的小型保护模型。