Goodfire 首席科学家汤姆・麦格拉思：研究者必须弄懂 AI 的决策机制

Goodfire 联合创始人兼首席科学家汤姆・麦格拉思在《AI 深度剖析》访谈中表示，机制可解释性相当于给模型做"大脑扫描"，可近乎零成本实时监控奖励篡改等行为，而思维链监控会让推理成本近乎翻倍。Goodfire 近期启动项目，计划对通义千问（Qwen）大模型开展完整逆向工程。麦格拉思称，若六个月内可解释性在预设问题上不能明显优于阅读思维链，整个领域进展就是失败的。