热门
最新
红包
立Flag
投票
同城
我的
发布
CSDN App 扫码分享
评论
1
打赏
- 复制链接
- 举报
下一条：
微软推出Phi Silica：一个33亿参数的AI模型，用于提升个人计算的效率和性能微软研究人员推出了Phi Silica，这是一款专为其新型Copilot+ PC中的神经处理单元（NPU）设计的小型语言模型。Phi Silica是Phi系列模型的一部分，旨在在消耗最小电力的同时提供高性能的AI能力。这种设计使得CPU和GPU可以保持可用状态，用于其他任务，从而增强整体计算体验。Phi Silica以其33亿参数的规模脱颖而出，是Phi家族中最小的模型。尽管体积小巧，Phi Silica依然实现了令人印象深刻的性能指标。它的首个令牌延迟为每秒650个令牌，仅消耗1.5瓦特电力。这种效率确保了PC的CPU和GPU不会过度负载，允许其他应用程序更加顺畅地运行。Phi Silica的令牌生成还利用了NPU的KV缓存，并在CPU上运行，大约每秒产生27个令牌。https://www.marktechpost.com/2024/05/24/microsoft-introduces-phi-silica-a-3-3-billion-parameter-ai-model-transforming-efficiency-and-performance-in-personal-computing/@passage T
