跳到正文
原文
Hugging Face Blog·· 21 小时前精选AI 评分70

Hugging Face 发布 TorchNeuron 原生支持 AWS Trainium

TorchNeuron: running HF models on AWS Trainium is easier than ever

AI 导读

Hugging Face 发布 TorchNeuron,为 PyTorch 提供 AWS Trainium 原生后端,使 Transformers、Diffusers 等库可直接在 Trainium 上运行。该方案支持 eager 模式、torch.compile 及 FSDP 等分布式 API,文本生成模型支持率从 46% 提升至 89%,并简化了微调与图像生成流程。

推荐理由

TorchNeuron 让 HF 库原生支持 Trainium,简化部署并提升训练推理兼容性。

来源:Hugging Face Blog · huggingface.co