The Decoder· Matthias Bastian·· 1 小时前
“苦涩的教训”之父 Richard Sutton 给 LLM 扩展论信徒的又一记苦涩忠告
The inventor of the bitter lesson has a bitter lesson for LLM scaling enthusiasts
AI 导读
图灵奖得主 Richard Sutton 发文称,单纯堆算力不足以带来智能,AI 需要更聪明的新学习方法,这门科学“远未完成”,引发 X 上广泛讨论。前 OpenAI 研究员 Jerry Tworek 认为“苦涩的教训”仍成立,但算力投入越多算法越关键,transformer 扩展的成功已“reward-hack 了一代科学家”。
来源:The Decoder · the-decoder.com