Gemma2-27B在Q8_0时,Shaberi3的得分是7.81,但在缩小到IQ2_XS时,得分下降到7.28,表现非常差。相比使用表现不佳的2bit量化(大小为8.2GB),不如直接使用9B(得分7.65,大小为Q5_K_M时为6.65GB)。