MIT Technology Review · AI· Tim Rausch·· 3 小时前
AI 推理的隐性存储账单：模型响应后留下了什么
AI’s hidden storage bill: What inference leaves behind
AI 导读
AI 推理每次响应都会在后台留下大量数据：WD 内部测量显示，一段 8 秒、用户端仅 3.97MB 的 720p 视频，后台关联数据超过 500MB，是输出文件的 130 倍。
来源：MIT Technology Review · AI · technologyreview.com