AWS发布SageMaker TTS自动扩缩容工具链及Kokoro流式部署教程
先了解这件事
2026年10月23日，AWS在Amazon SageMaker AI官方博客连续发布两篇内容。首先，AWS发布了一套用于文本转语音（TTS）模型自动扩缩容的工具链，旨在替代传统基于猜测的扩缩容方式。该工具链通过在实时端点上实测并发上限（Q_max）和扩容耗时（T_total），基于并发请求数指标推导出Kokoro-82M模型的自动扩缩容阈值与冷却时间，该方法可迁移至其他实时推理场景。随后，AWS发布了另一篇教程，展示如何在SageMaker AI上部署Kokoro-82M模型，利用双向WebSocket流式传输实现AI语音智能体的低延迟音频输出。教程详细说明了处理二进制帧、保持会话连接、增量句子切分及传输协议选择等关键步骤，实测显示双向模式的首字音频时间比批量模式快2.4至3.5倍。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- AWS Machine Learning Blog精选在Amazon SageMaker AI上使用Kokoro TTS实现AI语音智能体低延迟流式输出
AWS发布教程，展示如何在Amazon SageMaker AI上部署Kokoro-82M TTS模型，通过双向WebSocket流式传输实现AI语音智能体的低延迟音频输出。文章详细说明了处理二进制帧、保持会话连接、增量句子切分及传输协议选择等关键步骤，实测双向模式使首字音频时间比批量模式快2.4至3.5倍。
- AWS Machine Learning Blog精选在 Amazon SageMaker AI 上通过实测数据推导 TTS 模型自动扩缩容策略
AWS 发布了一套工具链，通过在 Amazon SageMaker AI 实时端点上实测并发上限（Q_max）和扩容耗时（T_total），推导出 Kokoro-82M 模型的自动扩缩容阈值与冷却时间，替代传统猜测方式。该方法基于并发请求数指标，可迁移至其他实时推理场景。
本事件热度走势
当前热度 10·可比范围峰值 10（10月23日 01:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。