🔗 https://spectrum.ieee.org/1-bit-llm

「不精确」的语言模型更小、更快，准确度几乎不减

研究人员正在开发更小、更快、更节能的语言模型，通过将参数精度降低到 1 或 - 1 来实现。

这些 1 位模型在性能和能源效率方面显示出了有希望的结果。

正在使用不同的方法来创建这些模型，它们有潜力直接在手机和针对其特定需求进行优化的定制硬件上运行。

💬 https://news.ycombinator.com/item?id=40529355
@朱恒玉