跳到正文
热点事件持续更新

AWS推出SageMaker training session APIs:自写训练循环,GPU托管

2 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

AWS在Amazon SageMaker AI的无服务器模型定制中推出training session APIs(GA),把forward_backward()、optim_step()、sample()等操作变成API调用,用户可自行编写SFT、偏好优化或RL训练循环,GPU分配、分布式执行、故障恢复和checkpoint存储由平台托管。 计费按处理的token量计算,只收训练循环实际消耗的计算费用,例如奖励函数在本地机器上花10秒给批次打分期间不计GPU费用。支持的基础模型及各模型可用的AWS区域以training session APIs文档为准。

AI 根据报道生成 · 47 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. AWS Machine Learning Blog
    Amazon SageMaker AI 推出 training sessions,无需管理 GPU 即可自定义模型

    Amazon SageMaker AI 的 serverless model customization 正式推出 training sessions(GA),用户可自行编写训练循环、自定义损失函数与奖励信号,GPU 分配、分布式执行、故障恢复和 checkpoint 存储由平台托管。

  2. AWS Machine Learning Blog
    Amazon SageMaker 推出 training session APIs:自写训练循环而无需管理 GPU

    Amazon SageMaker AI 新增 training session APIs,把 forward_backward()、optim_step()、sample() 等操作变成 API 调用,让用户自己编写 SFT、偏好优化或 RL 训练循环,同时由服务托管 GPU、分布式执行、故障恢复等基础设施。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。