跳到正文
原文
Hugging Face Blog·· 2023-10-03AI 评分37

Hugging Face Diffusers 支持在 Cloud TPU v5e 上通过 JAX 加速 Stable Diffusion XL 推理

🧨 Accelerating Stable Diffusion XL Inference with JAX on Cloud TPU v5e

AI 导读

Hugging Face Diffusers 新增对 JAX 的支持,可在 Google Cloud TPU v5e 上高效运行 Stable Diffusion XL。该方案利用 JIT 编译和 pmap 并行化,在 TPU v5e-4 实例上生成 1024×1024 图像的实际耗时约 2.3 秒。TPU v5e 成本低于 TPU v4 的一半,显著提升了大规模 AI 推理的性能与性价比。

来源:Hugging Face Blog · huggingface.co