跳到正文
热点事件持续更新

郑纬民团队Mooncake推理系统获最佳论文奖并以PD分离提升效率

4 篇报道3 个报道来源5 小时前更新

先了解这件事

AI 综述

郑纬民院士团队研发的大模型推理系统Mooncake获2025年埃里克·里德尔(Eric Riedel)最佳论文奖。据央视财经报道,在同样硬件规模下,该系统可多承接75%的用户请求,长文本吞吐能力提升五倍以上。 Mooncake的核心是prefill-decode(PD)分离架构:一组算力只负责读入用户问题,再将结果传给另一组专门生成回答的算力,以此盘活存量算力。其背景是国内日均词元(Token)调用量已突破500万亿,算力需求激增而智能算力短期难以扩张,行业转向挖掘存量资源效率。

AI 根据报道生成 · 5 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. 东方财富·7x24精选
    国内日均词元调用量突破500万亿,Mooncake以PD分离盘活存量算力

    最新数据显示,国内日均词元调用量已突破500万亿,算力市场需求暴涨,智能算力短期补不上,只能向存量要效益。郑纬民院士团队2025年研发的大模型推理系统Mooncake获埃里克里德尔最佳论文奖,核心是PD分离技术:一组算力只负责读入用户问题,结果传给另一组专门生成回答。同样硬件规模下,系统可多承接75%的用户请求,长文本吞吐能力提升五倍以上。

  2. 华尔街见闻·直播精选
    国内日均词元调用量突破500万亿,Mooncake用PD分离盘活存量算力

    最新数据显示,国内日均词元调用量已突破500万亿,算力市场需求暴涨,智能算力短期补不上,只能向存量要效益。2025年郑纬民院士团队研发的大模型推理系统Mooncake拿下埃里克・里德尔最佳论文奖,核心是用PD分离技术盘活存量算力:一组算力只读入用户问题,结果传给另一组专门生成回答。同样硬件规模下,系统多承接75%的用户请求,长文本吞吐能力提升五倍以上。(央视财经)

  3. 金十数据·快讯精选
    中国日均 Token 用量突破 500 万亿,推理系统 Mooncake 以 prefill-decode 分离提升效率

    中国日均 Token 用量已突破 500 万亿,带动算力需求激增,智算能力难以快速扩张,运营商转向挖掘存量资源效率。由郑纬民院士团队开发的大模型推理系统 Mooncake 曾获 2025 年 Eric Riedel 最佳论文奖,其 prefill-decode 分离架构将处理用户提示词与生成响应分开,在相同硬件上可多处理 75% 的用户请求,长上下文吞吐提升逾 5 倍。

  4. 金十数据·快讯精选
    国内日均词元调用量突破500万亿,Mooncake以PD分离盘活存量算力

    最新数据显示,国内日均词元调用量已突破500万亿,算力需求暴涨且短期难以补充。郑纬民院士团队的推理系统Mooncake采用PD分离技术,将读取问题与生成回答分配给不同算力组,同样硬件规模下多承接75%的用户请求,长文本吞吐能力提升五倍以上。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月17日 23:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。