热门

最新

红包

立Flag

投票

同城

发布
devlewistunstall
Dev想睡死
2 年前
truedevlewistunstall

什么是最佳的用于大型语言模型的权重量化算法，能够在保持推理任务性能的前提下最大程度地实现效果？

我最近一直在摆弄AutoAWQ，发现4位量化会导致准确率明显下降，即使使用了领域内数据集进行校准🤔

也许@未眠叹流年、 或 @李祥JasonLee 知道答案？

2
31
  • 复制链接
  • 举报
下一条：
完整演讲的链接如下：https://youtu.be/3boKlkPBckA?si=A_RJItsllRcCOtEP这是我在2008年的Google技术演讲，我在演讲中提倡：1. 深度学习2. 卷积神经网络3. 无监督预训练（已经提及）4. 基于能量的模型5. 计算机视觉和机器人技术中的深度学习。