"在使用了针对Transformers的Intel扩展技术'Neural Speed'的帮助下，Intel进一步加速了CPU上4比特大型语言模型(LLMs)的推理处理速度。@王一点寒 探索了一个最近发布的用于高效大型语言模型推理的库，并测试了其所承诺的速度优势。https://buff.ly/4b17jQ4"
