热门

最新

红包

立Flag

投票

同城

我的

发布
weixin_41975548
umiyuki_ai
2 年前
trueweixin_41975548

Yo!Gemma2-2B登场啦!在聊天机器人竞技场上竟然取得了ELO评分1130。与GeminiPro1.0和Claude2的1131相媲美!!竟然击败了Phi3-Medium和GPT3.5T…是2B哦!?!? →RT

CSDN App 扫码分享
分享
评论
8
  • 复制链接
  • 举报
下一条:
没想到K80帮派超越了P40帮派登场。1万日元就能买到K80并获得24GB的VRAM,哈哈哈。不过,运行70B模型时,即使VRAM全部装载,也只能达到2tps的速度,与CPU差不多(大概是CPU的2到3倍速度吧)。想要用低成本构建运行70B本地LLM的环境:https://qiita.com/Kozo_Mizutani/items/e6bb3a182ec5ba7d6ad7
立即登录