使用 Optimum-Intel 和 OpenVINO GenAI 优化并部署模型

Hugging Face 发布教程，介绍如何利用 Optimum-Intel 和 OpenVINO GenAI 将 Transformers 模型部署到边缘设备。内容涵盖环境配置、模型导出为 OpenVINO IR、基于 NNCF 的 INT4 量化优化，以及通过 LLMPipeline 在 Python 和 C++ 中进行推理部署的具体代码示例。