Hugging Face Blog·· 2021-04-16精选AI 评分66
Hugging Face 发布 Accelerate 库简化 PyTorch 分布式训练
Introducing 🤗 Accelerate
AI 导读
Hugging Face 发布 Accelerate 库,通过极简 API 封装分布式训练脚本添加少量代码即可适配多 GPU、TPU 及混合精度训练。该库自动处理设备放置、数据采样同步及梯度聚合,并提供 CLI 启动器简化配置流程。
推荐理由
通过极简 API 封装分布式训练样板代码,使 PyTorch 原生脚本无缝适配多卡与混合精度。
来源:Hugging Face Blog · huggingface.co