热门

最新

红包

立Flag

投票

同城

发布
weixin_41975548
umiyuki_ai
1 年前
trueweixin_41975548

当我读了那个线程的评论时，有一种说法是，并不是因为量子化造成了质量下降，而是Llama.cpp的分词器本身就有某些问题，这导致了gguf出现了问题。https://github.com/ggerganov/llama.cpp/issues/6914

评论
9
  • 复制链接
  • 举报
下一条：
美国国土安全保障部似乎要成立一个AI安全安全委员会，但成员都是一些闭门造车的AI界人士，像是OpenAI的Sam、Anthropic的Dario、Nvidia的Jensen、微软的Nadella和谷歌的Pichai！有人这样吐槽→RT