Hugging Face Blog·· 2023-09-22AI 评分43
Hugging Face 推出 Inference for PROs
Inference for PROs
AI 导读
Hugging Face 推出 Inference for PROs,为付费用户提供精选模型的专属 API 端点及更高速率限制。该服务支持 Meta Llama 3、Mixtral 8x7B 等模型,利用 text-generation-inference 实现极速推理。PRO 用户可借此便捷地进行原型开发与测试,无需自行部署基础设施。
来源:Hugging Face Blog · huggingface.co