跳到正文
原文
Hugging Face Blog·· 2024-04-02AI 评分18

Hugging Face 推出 Cloudflare Workers AI 集成,实现开源模型无服务器推理

Bringing serverless GPU inference to Hugging Face users

AI 导读

Hugging Face 推出 Cloudflare Workers AI 集成,让开发者能轻松将开源模型作为无服务器 API 使用。该方案依托 Cloudflare 边缘数据中心部署的 GPU,采用按请求付费模式,显著降低运营成本。开发者可通过 REST API 或 Cloudflare AI SDK 直接调用 Hermes 2 Pro 等模型。

来源:Hugging Face Blog · huggingface.co