跳到正文
热点事件持续更新

AWS SageMaker AI 跨区域推理路由正式可用

2 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

AWS 于 2026 年 11 月 18 日宣布 Amazon SageMaker AI 跨区域推理路由正式可用,新增 inference router 资源,应用可通过一条调用路径访问多个区域和账户的 endpoint。 适用范围上,先后两篇官方博客的说法存在差异:早先报道称该功能覆盖所有支持实时终端推理的商业区域,且上限仅适用于实时终端;后续报道则称覆盖除 me-south-1 和 me-central-1 外的大部分商业区域,并支持实时和异步推理。后续报道还补充:该路由不额外收费,终端和推理组件按标准 SageMaker AI 定价计费,暂不支持响应流式传输。 用法上,接收端可通过 CrossRegionTrafficConfig 设置跨区域流量的每实例请求速率上限及远端流量可占终端容量的最大份额,本地流量不计入该上限。AWS 博客还介绍了 Salesforce Agentforce Foundation 团队的用法:该团队在 30 多个区域为客户服务模型,此前受各区域容量碎片化影响存在可用性问题;使用该路由后,路由器根据近期请求结果评估各目的地健康度,可在约一分钟内向健康目的地转移流量,失败请求会在另一目的地重试一次。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. AWS Machine Learning Blog
    Amazon SageMaker AI 推出跨 Region 推理路由,应对区域 GPU 容量不足

    AWS 在 Amazon SageMaker AI 中推出跨 Region 推理路由,新增 inference router 资源,让应用通过统一调用路径访问多个 Region 和账户的 endpoint。

11月19日
  1. AWS Machine Learning Blog
    Salesforce 如何用 Amazon SageMaker AI 跨区域推理路由实现全球规模模型服务

    Salesforce 的 Agentforce Foundation 团队在 30+ 全球区域为客户提供模型服务,曾面临各区域容量碎片化导致的可用性问题。通过 SageMaker AI 的跨区域推理路由(inference router),应用只需一条调用路径,路由器基于近期请求结果评估各目的地健康度,可在约一分钟内向健康目的地转移流量,失败请求还会在另一目的地重试一次。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月20日 03:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。