MIT Technology Review · AI· Will Douglas Heaven·· 4 小时前
Goodfire 研究员称 LLM 内部远比想象中易读,一篇 2.6 万字博客引爆 AI 圈争议
“We were looking at it wrong”: The explosive claim that’s upended the AI world
AI 导读
Goodfire 研究员 Nick Cammarata 发布 2.6 万字博客,称 LLM 内部机制可能远比此前认为的更容易理解、监控和控制,引发 AI 圈激烈争论。他称自己每天花约 10 小时、持续近一年观察神经元,重新分析 Inception v1 的"车猫神经元"后发现其共同点是 V 字形,认为研究者此前"看错了"。斯坦福 Chris Potts 则质疑这只是直觉,并未让问题变简单。
来源:MIT Technology Review · AI · technologyreview.com