OpenAI 发布 GPT OSS 开源推理模型，Hugging Face 详解部署与推理优化

OpenAI 发布 GPT OSS 开源模型系列，包含 120B 和 20B 两个 MoE 版本，采用 mxfp4 量化以支持单卡部署。Hugging Face 提供详细指南，涵盖 transformers、vLLM 和 llama.cpp 等框架的本地推理、Flash Attention 3 优化及工具调用能力。