Hugging Face Blog·· 13 小时前精选AI 评分78
PyTorch 2.15 发布:MPS 引入 FP8 并全面转向 Metal 内核
MPS in PyTorch 2.15
AI 导读
PyTorch 2.15 为 Mac 端带来 FP8 支持,MoE 模型解码速度提升 5-6.5 倍,视频解码内存占用从 270 GiB 降至 8 GiB。
推荐理由
MPS 全面转向 Metal 内核并引入 FP8,显著提升了 Mac 端 LLM 推理与视频解码性能。
来源:Hugging Face Blog · huggingface.co