跳到正文
热点事件持续更新

SMCI联合IBM与NVIDIA发布KV-cache优化方案

2 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

超微电脑(SMCI)联合IBM与英伟达发布一项KV-cache解决方案,对大模型推理环节的KV cache进行优化。报道称该方案展现出显著的推理性能提升。 需要说明的是,性能提升来自三家公司的发布说法,具体提升幅度等细节尚未见披露。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. 金十数据·快讯
    Super Micro 联合 IBM、NVIDIA 推出 KV-cache 方案,大幅提升模型推理性能

    Super Micro Computer(SMCI.O)与 IBM、NVIDIA 联合发布一项 KV-cache 解决方案,可显著提升模型推理性能。

  2. 金十数据·快讯
    超微电脑携手IBM与英伟达推出KV缓存解决方案,展现显著推理性能优势

    超微电脑(SMCI.O)携手IBM(IBM.N)与英伟达(NVDA.O)推出KV缓存解决方案,展现出显著的推理性能优势。该方案针对大模型推理环节的KV cache进行优化。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。