热门

最新

红包

立Flag

投票

同城

我的

发布
weixin_40904164
SleeplessAI_Lab
1 年前
trueweixin_40904164

创建最好的AI虚拟伴侣并始终做正确的事。(H.E.R)

CSDN App 扫码分享
分享
13
157
  • 复制链接
  • 举报
下一条:
Gemma2-27B在Q8_0时,Shaberi3的得分是7.81,但在缩小到IQ2_XS时,得分下降到7.28,表现非常差。相比使用表现不佳的2bit量化(大小为8.2GB),不如直接使用9B(得分7.65,大小为Q5_K_M时为6.65GB)。
立即登录