Hugging Face Blog·· 2022-09-27精选AI 评分65
Hugging Face Accelerate 如何在消费级硬件上运行超大模型
How 🤗 Accelerate runs very large models thanks to PyTorch
AI 导读
Hugging Face 详解 Accelerate 如何利用 PyTorch meta device 和分片加载技术，在有限 RAM 和 GPU 的硬件上运行 OPT-6.7B 等超大模型。
推荐理由
详解利用meta device与分片加载在消费级硬件运行超大模型的技术路径。
来源：Hugging Face Blog · huggingface.co