Habana Gaudi2 在模型训练与推理中比 Nvidia A100 快约两倍

Habana Gaudi2 在模型训练和推理速度上约为 Nvidia A100 80GB 的两倍。在 BERT 预训练中，Gaudi2 相比初代 Gaudi 提速 3.04 倍，相比 A100 提速 1.89 倍。在 Stable Diffusion 推理中，Gaudi2 延迟比 A100 低 2.84 倍，且支持更大批量处理。