我想我可能找到了在diffusers中做的新宠——平滑内存峰-CSDN blink-领先的开发者技术社区

热门

最新

红包

立Flag

投票

同城

我的

发布

我爱学习2018

2 年前

trueweixin_36190910

我想我可能找到了在diffusers中做的新宠——平滑内存峰值

CSDN App 扫码分享

分享

评论

12

复制链接
举报

下一条：

新的3D VAE现在在Diffusers中的CogVideoX中支持瓦片解码 🤗 将内存使用从33 GB（无优化）减少到11 GB（CPU卸载 + 瓦片解码）。此外，使用torch.compile时，在推理过程中大约可以节省20秒（A100）！PR https://github.com/huggingface/diffusers/pull/9150