热点事件持续更新
Deepgram利用AWS Trainium2优化语音AI推理成本
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月20日，AWS Machine Learning Blog发布文章，介绍Deepgram如何将Nova-3语音转文本模型迁移至AWS Trainium2芯片。在离线批处理负载场景下，该优化方案使每美元可处理的音频量提升了11%至70%。技术层面，Deepgram通过TorchNeuron编译及NKI内核级调优，成功将前馈神经网络（FFN）层延迟降低2.0倍，并将Depthwise conv1d操作加速1.5倍。此外，该优化方案支持在Amazon SageMaker AI平台上进行高效部署，旨在帮助开发者有效降低基础设施成本，实现语音AI的规模化推理。
AI 根据报道生成 · 1 小时前更新
最新进展10月20日 00:23
Deepgram完成Nova-3模型在AWS Trainium2上的迁移，显著降低推理成本。报道时间线
沿着报道，了解事件的不同侧面。
10月20日
- AWS Machine Learning BlogDeepgram 如何借助 AWS Trainium2 优化语音 AI 规模化推理
Deepgram 将 Nova-3 语音转文本模型迁移至 AWS Trainium2，在离线批处理负载下实现每美元处理音频量提升 11%–70%。通过 TorchNeuron 编译及 NKI 内核级调优，FFN 层延迟降低 2.0 倍，Depthwise conv1d 加速 1.5 倍。该优化方案支持在 Amazon SageMaker AI 上高效部署，帮助开发者降低基础设施成本。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。