Intel Gaudi 支持加速辅助生成

Intel Gaudi 处理器现已在 Optimum Habana 中支持辅助生成技术，可显著降低延迟与功耗。该技术基于投机采样原理，通过小模型生成草稿并由大模型验证，在大型 Transformer 模型上可实现约 2 倍的加速效果。