Hugging Face Blog·· 2024-01-15AI 评分57
使用 ONNX Runtime 和 Olive 加速 SD Turbo 和 SDXL Turbo 推理
Accelerating SD Turbo and SDXL Turbo Inference with ONNX Runtime and Olive
AI 导读
Hugging Face 发布教程,介绍使用 ONNX Runtime 和 Olive 工具优化 SD Turbo 和 SDXL Turbo 的推理性能。在 NVIDIA GPU 上,ONNX Runtime 相比 PyTorch 吞吐量最高提升 229%,并提供了 C# 和 Java 等非 Python 语言的推理示例。
来源:Hugging Face Blog · huggingface.co