NVIDIA NIM 支持一键部署 Hugging Face 上的 10 万+ LLM

NVIDIA 宣布 NIM 推理微服务现支持在 Hugging Face 上快速部署超过 10 万个大语言模型。NIM 提供单一 Docker 容器，自动识别模型格式并选择 TensorRT-LLM、vLLM 或 SGLang 后端，无需手动配置即可实现高性能部署。