使用 Optimum Intel 和 fastRAG 在 CPU 上优化 Embedding 模型

Hugging Face 发布教程，展示如何利用 Optimum Intel 对 BGE 等 Embedding 模型进行 int8 量化，并在 Intel Xeon CPU 上实现最高 4.5 倍的延迟降低和 4 倍的吞吐量提升。文章提供了集成 fastRAG 框架进行 RAG 检索与重排的具体代码示例。