跳到正文
原文
Hugging Face Blog·· 2021-04-16精选AI 评分66

Hugging Face 发布 Accelerate 库简化 PyTorch 分布式训练

Introducing 🤗 Accelerate

AI 导读

Hugging Face 发布 Accelerate 库,通过极简 API 封装分布式训练脚本添加少量代码即可适配多 GPU、TPU 及混合精度训练。该库自动处理设备放置、数据采样同步及梯度聚合,并提供 CLI 启动器简化配置流程。

推荐理由

通过极简 API 封装分布式训练样板代码,使 PyTorch 原生脚本无缝适配多卡与混合精度。

来源:Hugging Face Blog · huggingface.co