Hugging Face Blog·· 2023-05-31AI 评分38
介绍用于 Amazon SageMaker 的 Hugging Face LLM 推理容器
Introducing the Hugging Face LLM Inference Container for Amazon SageMaker
AI 导读
Hugging Face 发布用于 Amazon SageMaker 的 LLM 推理容器，基于 Text Generation Inference (TGI) 提供高性能大语言模型部署能力。
来源：Hugging Face Blog · huggingface.co