跳到正文
原文
Hugging Face Blog·· 2024-05-22AI 评分55

Hugging Face Inference Endpoints 新增 AWS Inferentia2 支持

Deploy models on AWS Inferentia2 from Hugging Face

AI 导读

Hugging Face Inference Endpoints 新增 AWS Inferentia2 实例支持,覆盖超十万模型并提供 OpenAI SDK 兼容接口。

来源:Hugging Face Blog · huggingface.co