使用 NNCF 和 🤗 Optimum 优化 Stable Diffusion 在 Intel CPU 上的性能

Hugging Face 博客介绍了一种结合 OpenVINO NNCF 和 🤗 Optimum 的优化工作流，显著降低了 Stable Diffusion 模型在资源受限 CPU 上的推理延迟。该方案通过量化感知训练（QAT）、知识蒸馏和 Token Merging 技术，实现了 5.1 倍的推理加速和 4 倍的模型体积缩减。