@小葡萄也有成熟时 @哆啦mou @水灵的大有 GGUF量化模型也已经准备好了，如果你想测试该模型。

@辣笔小星 已经制作了精美的imatrix版本。喜欢@pakerface上的新模型树！(抄送 @吉祥不是渡边君 @马寻道)

⚡ GGUF: https://huggingface.co/mlabonne/Hermes-3-Llama-3.1-8B-lorablated-GGUF