在 Hugging Face Inference Endpoints 上部署带说话人分离和推测解码的 ASR 服务

Hugging Face 博客发布教程，展示如何通过自定义推理处理器在 Inference Endpoints 上部署模块化语音识别服务。该方案结合 OpenAI Whisper 与 Pyannote 模型实现说话人分离，并引入推测解码加速推理。基准测试显示，在短音频且 batch size 为 1 时，推测解码可带来显著性能提升。