Hugging Face Blog·· 21 小时前精选AI 评分70
Hugging Face 发布 TorchNeuron 原生支持 AWS Trainium
TorchNeuron: running HF models on AWS Trainium is easier than ever
AI 导读
Hugging Face 发布 TorchNeuron,为 PyTorch 提供 AWS Trainium 原生后端,使 Transformers、Diffusers 等库可直接在 Trainium 上运行。该方案支持 eager 模式、torch.compile 及 FSDP 等分布式 API,文本生成模型支持率从 46% 提升至 89%,并简化了微调与图像生成流程。
推荐理由
TorchNeuron 让 HF 库原生支持 Trainium,简化部署并提升训练推理兼容性。
来源:Hugging Face Blog · huggingface.co