跳到正文
金十数据·快讯·· 52 分钟前精选

高盛:HBM 容量瓶颈浮现,HBF 混合架构或降低约 33% 推理成本

高盛:HBM容量瓶颈浮现,下一代存储HBF会带来什么机会?

AI 导读

高盛指出 AI 推理瓶颈正从算力扩展至内存带宽与容量,HBM 容量有限已迫使部分数据中心额外购买 GPU 换取内存。其提出的 HBF 以高密度 NAND 补充 HBM,容量远高于 HBM、顺序读取速度接近 HBM,每 GB 成本预计明显更低,高盛模型显示 HBM+HBF 混合架构可使示例推理成本降低约 33%。

推荐理由

高盛拆解 HBF 与 HBM 混合架构的成本与产能影响,可据此理解存储环节在 AI 推理中的位置变化。

来源:金十数据·快讯 · jin10.com