跳到正文
原文
Hugging Face Blog·· 2026-06-26精选AI 评分71

一条命令在 Hugging Face Jobs 上运行 vLLM 服务

Run a vLLM Server on HF Jobs in One Command

AI 导读

Hugging Face 推出 HF Jobs 功能,允许用户通过单条命令在 HF 基础设施上快速部署 vLLM 服务并开放 OpenAI 兼容接口。该服务支持按秒计费,提供 GPU 选择、SSH 调试、Gradio 交互界面及编码 Agent 后端集成,适合模型测试、评估和批量生成等实验场景。

推荐理由

提供通过单条命令在 HF Jobs 部署 vLLM 并开放 OpenAI 兼容接口的完整流程,便于快速进行模型测试与评估。

来源:Hugging Face Blog · huggingface.co