Hugging Face Diffusers 量化后端对比与选型指南

Hugging Face 发布博文对比了 Diffusers 中 bitsandbytes、torchao、Quanto、GGUF 和 FP8 Layerwise Casting 五种量化后端。文章以 Flux-dev 模型为例，展示了各方案在显存占用和推理速度上的基准测试数据，并提供了结合 CPU offload 和 torch.compile 的优化代码示例。