AssemblyAI用EC2 Spot运行语音推理，成本较按需降70%

AssemblyAI在生产环境中用Amazon EC2 Spot GPU实例运行语音转文字推理，据AWS机器学习博客称，相比按需实例定价，推理计算成本降低了70%，同时保持了SLA。 其架构基于Amazon ECS，混合使用多个NVIDIA GPU实例系列的Spot与按需实例，并通过Amazon SQS处理重试，以应对Spot实例可能被回收的情况。部署覆盖美国俄勒冈（us-west-2）和英国伦敦（eu-west-2）两个区域，以满足医疗、金融、法律等受监管行业客户将音频数据保留在特定地域的合规要求。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。