热门
最新
红包
立Flag
投票
同城
我的
发布
SleeplessAI_Lab
1 年前
trueweixin_40904164
创建最好的AI虚拟伴侣并始终做正确的事。(H.E.R)
下一条:
Gemma2-27B在Q8_0时,Shaberi3的得分是7.81,但在缩小到IQ2_XS时,得分下降到7.28,表现非常差。相比使用表现不佳的2bit量化(大小为8.2GB),不如直接使用9B(得分7.65,大小为Q5_K_M时为6.65GB)。
立即登录