跳到正文
东方财富·7x24·· 1 小时前

SK海力士推出以内存为中心的AI机架级系统MARS

AI 导读

SK海力士在2026年OCP全球峰会上推出以内存为中心的AI机架级系统MARS,采用解耦式机架级架构,将计算与内存资源协调到共享基础设施中。多轮智能体推理产生的键值缓存可存入共享内存池,无需反复重算,首个词元生成时间最多提升3至5倍,尾延迟压缩更明显。

来源:东方财富·7x24 · so.eastmoney.com