热门

最新

红包

立Flag

投票

同城

我的

发布
weixin_41975548
umiyuki_ai
1 年前
trueweixin_41975548

Gemma2-27B在Q8_0时,Shaberi3的得分是7.81,但在缩小到IQ2_XS时,得分下降到7.28,表现非常差。相比使用表现不佳的2bit量化(大小为8.2GB),不如直接使用9B(得分7.65,大小为Q5_K_M时为6.65GB)。

CSDN App 扫码分享
分享
评论
9
  • 复制链接
  • 举报
下一条:
原文:【Copilot+PCって20万くらいかと思って「たけえ!」って言ってたけど、キーボード付けると29~37万もするのかよ。そんなムチャクチャな。「目玉のAI機能は全体的に無意味」は悲しいなあ →RT】翻译:我以为Copilot+PC大约20万日元,还觉得“好贵啊!”,但是加上键盘要29~37万日元啊。这也太离谱了。“主要的AI功能整体上无意义”真是让人难过啊 →RT
立即登录