Hugging Face Blog·· 2023-03-28AI 评分35
在 Intel Sapphire Rapids CPU 上加速 Stable Diffusion 推理
Accelerating Stable Diffusion Inference on Intel CPUs
AI 导读
在 Intel Sapphire Rapids CPU 上,使用 OpenVINO 将 Stable Diffusion 推理延迟从 32.3 秒降至 16.7 秒,实现 2 倍加速。进一步通过 reshape 固定输入形状,延迟可进一步降至 4.7 秒,带来额外 3.5 倍加速。结合系统级优化,相比上代 Ice Lake CPU 原生推理,整体速度提升近 10 倍。
来源:Hugging Face Blog · huggingface.co