Hugging Face 发布 Inference Endpoints 托管推理服务

Hugging Face 发布 Inference Endpoints，允许用户通过几步操作将模型从 Hub 直接部署到 AWS 等云厂商的托管基础设施。服务支持 Public、Protected 和 Private 三种安全模式，其中 Private 模式可通过 AWS PrivateLink 实现 VPC 内网访问，并提供自动扩缩容、监控日志和 API 调用能力。