Hugging Face Blog·· 2021-09-14精选AI 评分66
Hugging Face 发布 Optimum 模型优化库
Introducing Optimum: The Optimization Toolkit for Transformers at Scale
AI 导读
Hugging Face 发布开源库 Optimum,旨在降低 Transformer 模型在生产环境中的部署难度。该库联合硬件合作伙伴(如 Intel)提供模型量化与加速工具,通过 Neural Compressor 等方案实现高效推理。
推荐理由
Hugging Face 联合 Intel 发布 Optimum 库,提供开箱即用的模型量化与加速方案,降低生产环境部署门槛。
来源:Hugging Face Blog · huggingface.co