跳到正文
原文
Hugging Face Blog·· 2025-09-11精选AI 评分76

Hugging Face transformers 升级支持 GPT-OSS 及多项部署优化

Tricks from OpenAI gpt-oss YOU 🫵 can use with transformers

AI 导读

Hugging Face 升级 transformers 库以支持 OpenAI GPT-OSS 系列模型,新增 MXFP4 量化、张量并行、专家并行及动态滑动窗口缓存等部署优化。通过 Hub 下载预编译内核,显著降低显存占用并提升推理效率。

推荐理由

Hugging Face 为 GPT-OSS 提供开箱即用的部署支持,涵盖 MXFP4 量化与多卡并行,为社区提供了可复用的工程参考。

来源:Hugging Face Blog · huggingface.co