跳到正文
东方财富·7x24·· 2 小时前

硅基流动创始人袁进辉:推理算力是奔涌不息的河流,AI 基础设施迎来“生逢其时”窗口

推理算力是奔涌不息的河流 硅基流动创始人袁进辉:AI基础设施迎来“生逢其时”窗口

AI 导读

硅基流动创始人、CEO 袁进辉表示,智能体的规模化应用正在改变算力需求的增长动力,AI 基础设施迎来“生逢其时”的窗口。他把训练大模型的算力需求比作泳池,而模型推理服务的算力需求则是没有明确边界、奔涌不息的河流。模型一旦进入日常使用,Token 日复一日持续消耗,推理算力需求停不下来,训练算力反而是阶段性的。

来源:东方财富·7x24 · so.eastmoney.com