跳到正文
The Decoder· Jonathan Kemper·· 5 小时前

Nvidia 研究人员认为超长上下文窗口是一条死路

Nvidia researchers argue huge AI context windows are a dead end

AI 导读

Nvidia 研究团队提出,语言模型超长上下文窗口往往成本过高且没有必要。他们指出,从 GPT-4 的 8,192 tokens 到 GPT 5.6 Sol 的约一百万 tokens,上下文长度已增长约 120 倍,足以容纳《战争与和平》全文;但在许多测试中,定期摘要加针对性检索的效果与处理全文相当。

来源:The Decoder · the-decoder.com