AWS 发布 TTS 自动扩缩实测方法教程

AWS 在机器学习博客发布教程，介绍为 Amazon SageMaker AI 上的 TTS 服务确定自动扩缩目标的方法：将 82M 参数的 TTS 模型 Kokoro-82M 以自定义容器部署在 SageMaker AI 实时端点上，通过两次实测——单实例不突破 SLO 的最大并发数 Q_max 和一次扩容的端到端耗时 T_total——替代猜测，再据此算出扩容阈值、缩容阈值和冷却时间。其中 Q_max=50、T_total=320 秒的具体数值仅适用于 ml.g5.xlarge 上的 Kokoro-82M。 教程附带两个前提条件：运行扩容测量前，ml.g5.xlarge 服务配额需在基线之上至少有一个空闲槽位；示例容器固定的较早版 PyTorch 存在已知安全通告（PYSEC-2026-2286），已在 torch 2.10.0 中修复。

AI 根据报道生成 · 53 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。