跳到正文
原文
Hugging Face Blog·· 13 小时前精选AI 评分78

PyTorch 2.15 发布:MPS 引入 FP8 并全面转向 Metal 内核

MPS in PyTorch 2.15

AI 导读

PyTorch 2.15 为 Mac 端带来 FP8 支持,MoE 模型解码速度提升 5-6.5 倍,视频解码内存占用从 270 GiB 降至 8 GiB。

推荐理由

MPS 全面转向 Metal 内核并引入 FP8,显著提升了 Mac 端 LLM 推理与视频解码性能。

来源:Hugging Face Blog · huggingface.co