英伟达提出 AI 内存全栈协同设计方案 以提高内存使用效率

英伟达 11 月 5 日发文提出 AI 内存全栈协同设计方案。随着 AI 模型规模扩大、上下文窗口延长及智能体应用普及，GPU 内存压力上升，HBM 供应趋紧、价格上涨。方案主张通过 GPU、CPU、网络、存储及软件协同设计提高内存使用效率，而非单纯增加 GPU 内存容量。