AWS 介绍 SageMaker AI 上 TTS 自动扩缩容目标测量方法
先了解这件事
2026年10月23日，AWS Machine Learning Blog 发文介绍在 Amazon SageMaker AI 上为文本转语音（TTS）模型设定自动扩缩容目标的方法。文章以部署在实时端点上的 8200 万参数 Kokoro-82M TTS 模型为例，提出用实测的 Q_max（单实例在 SLO 内可承受的最高并发）和 T_total（一次扩容端到端耗时）推算扩容阈值、缩容阈值与两个冷却时间，以替代凭猜测设定的自动扩缩容目标。同日稍后，该博客另文介绍用 Kokoro TTS 为 AI 智能体流式输出低延迟语音的方案：将智能体生成的每个句子即时送入部署在 SageMaker AI 上的 Kokoro-82M 模型，使音频在完整回复生成前就开始播放；Kokoro-82M 仅 8200 万参数，可在单台 ml.g5.xlarge GPU 实例上低成本运行，容器同时提供 POST /invocations 与 WebSocket 双向流两条路径。
AI 根据报道生成 · 2 小时前更新
事件进展
- 10月23日 01:45 · 1 篇报道AWS 博客介绍在 SageMaker AI 上流式部署 Kokoro TTSAWS Machine Learning Blog：在 Amazon SageMaker AI 上用 Kokoro TTS 为 AI 智能体流式输出低延迟语音
- 10月23日 00:30 · 1 篇报道AWS博客介绍TTS自动扩缩容目标测量方法AWS Machine Learning Blog：别再猜 Amazon SageMaker AI 上 TTS 的自动扩缩容目标值
报道时间线
沿着报道，了解事件的不同侧面。
- AWS Machine Learning Blog在 Amazon SageMaker AI 上用 Kokoro TTS 为 AI 智能体流式输出低延迟语音
该方案将 AI 智能体生成的每个句子即时送入部署在 Amazon SageMaker AI 上的 Kokoro-82M 语音合成模型，让音频在完整回复生成前就开始播放。Kokoro-82M 仅有 8200 万参数，可在单台 ml.g5.xlarge GPU 实例上低成本运行，容器同时提供 POST /invocations 与 WebSocket 双向流两条路径。
- AWS Machine Learning Blog别再猜 Amazon SageMaker AI 上 TTS 的自动扩缩容目标值
在 Amazon SageMaker AI 实时端点部署 8200 万参数的 Kokoro-82M TTS 模型，用实测的 Q_max（单实例在 SLO 内可承受的最高并发）和 T_total（一次扩容端到端耗时）推算扩容阈值、缩容阈值与两个冷却时间，替代凭猜测设定的自动扩缩容目标。
本事件热度走势
当前热度 9·可比范围峰值 10（10月23日 01:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。