跳到正文
AWS Machine Learning Blog· Dmitry Soldatkin·· 4 小时前

Amazon SageMaker AI 推出跨 Region 推理路由,应对区域 GPU 容量不足

Keep inference running through regional capacity shortfalls with cross-Region inference routing in Amazon SageMaker AI

AI 导读

AWS 在 Amazon SageMaker AI 中推出跨 Region 推理路由,新增 inference router 资源,让应用通过统一调用路径访问多个 Region 和账户的 endpoint。

来源:AWS Machine Learning Blog · aws.amazon.com