NVIDIA 发布 AI 内存全栈协同设计方案，称少量 HBM 增量可获最高 30x 每美元吞吐提升
先了解这件事
NVIDIA 发布技术解读文章，提出通过 GPU、CPU、网络、存储与软件的全栈协同设计（包括 NVFP4、Dynamo、CMX 等）缓解 AI 推理的 HBM 内存压力，思路是为模型权重、KV 缓存和 RAG 数据减压、提高内存使用效率，而非单纯增加 GPU 内存容量。 文章给出的数据是：在每用户每秒 125 tokens 的口径下，从 Blackwell Ultra 到 Vera Rubin 平台，单 GPU 的 HBM 容量仅增约 3%，但 Vera Rubin NVL72 在 SemiAnalysis AgentX 测试上的每美元智能体吞吐量最高比 GB300 NVL72 提升 30 倍。这是 NVIDIA 的官方说法，属于厂商自述性能结果。 背景是随着 AI 模型规模扩大、上下文窗口延长及智能体应用普及，GPU 内存压力上升，HBM 供应趋紧、价格上涨。存储侧的 CMX 上下文内存存储合作厂商包括 Cloudian、DDN、Dell Technologies、Everpure（前身为 Pure Storage）、HPE、IBM、NetApp、VAST 和 WEKA。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- 东方财富·7x24英伟达提出 AI 内存全栈协同设计方案 以提高内存使用效率
英伟达 11 月 5 日发文提出 AI 内存全栈协同设计方案。随着 AI 模型规模扩大、上下文窗口延长及智能体应用普及，GPU 内存压力上升，HBM 供应趋紧、价格上涨。方案主张通过 GPU、CPU、网络、存储及软件协同设计提高内存使用效率，而非单纯增加 GPU 内存容量。
- NVIDIA BlogNVIDIA 全栈协同设计如何解决 AI 的内存难题：让每一字节发挥更大性能
NVIDIA 通过 GPU、CPU、网络、存储与软件的全栈协同设计提升内存使用效率。从 Blackwell Ultra 到 Vera Rubin 平台，单 GPU HBM 容量仅增约 3%，但 SemiAnalysis AgentX 上每美元智能体吞吐量提升最高达 30x。
本事件热度走势
- 可比范围当前
- 18
- 可比范围峰值
- 1911月6日 02:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。