热门

最新

红包

立Flag

投票

同城

我的

发布
weixin_41975548
umiyuki_ai
2 年前
trueweixin_41975548

Gemma2-27B的投机性解码中,如果结合使用2B,虽然内存消耗会稍微增加,但可以加快生成速度!顺便提一下,9B和2B的组合好像没有特别的优势。→RT

CSDN App 扫码分享
分享
评论
12
  • 复制链接
  • 举报
下一条:
最適化、というとAI文脈とシステム開発文脈、どちらもあるけど、直近のAIエージェントはシステム開発文脈で利用される事がありAI文脈での数理最適化は当面「使えない」状況にあると言わざる得ない気がする。近接戦闘さえままならない状況で、数理最適化はまだ飛び道具すぎる。
立即登录