跳到正文
原文
Hugging Face Blog·· 2023-09-22AI 评分43

Hugging Face 推出 Inference for PROs

Inference for PROs

AI 导读

Hugging Face 推出 Inference for PROs,为付费用户提供精选模型的专属 API 端点及更高速率限制。该服务支持 Meta Llama 3、Mixtral 8x7B 等模型,利用 text-generation-inference 实现极速推理。PRO 用户可借此便捷地进行原型开发与测试,无需自行部署基础设施。

来源:Hugging Face Blog · huggingface.co