跳到正文
原文
Hugging Face Blog·· 2023-03-28AI 评分35

在 Intel Sapphire Rapids CPU 上加速 Stable Diffusion 推理

Accelerating Stable Diffusion Inference on Intel CPUs

AI 导读

在 Intel Sapphire Rapids CPU 上,使用 OpenVINO 将 Stable Diffusion 推理延迟从 32.3 秒降至 16.7 秒,实现 2 倍加速。进一步通过 reshape 固定输入形状,延迟可进一步降至 4.7 秒,带来额外 3.5 倍加速。结合系统级优化,相比上代 Ice Lake CPU 原生推理,整体速度提升近 10 倍。

来源:Hugging Face Blog · huggingface.co