Hugging Face Blog·· 2024-02-08精选AI 评分70
Hugging Face 推出 Messages API 实现与 OpenAI 兼容
From OpenAI to Open LLMs with Messages API on Hugging Face
AI 导读
Hugging Face 在 TGI 1.4.0 版本中引入 Messages API,提供与 OpenAI Chat Completion API 兼容的接口。该功能支持通过 OpenAI 客户端库、LangChain 和 LlamaIndex 直接调用部署在 Inference Endpoints 上的开源模型,简化了从 OpenAI 到开源 LLM 的迁移流程。
推荐理由
提供与 OpenAI 兼容的接口,帮助开发者低成本将应用迁移至 Hugging Face 开源模型。
来源:Hugging Face Blog · huggingface.co