Goodfire首席科学家谈机制可解释性

Goodfire 联合创始人兼首席科学家汤姆・麦格拉思在《AI 深度剖析》访谈中称，机制可解释性相当于给模型做“大脑扫描”，可近乎零成本实时监控奖励篡改等行为，而思维链监控会让推理成本近乎翻倍。 麦格拉思称，Goodfire 近期启动项目，计划对通义千问（Qwen）大模型开展完整逆向工程；若六个月内可解释性在预设问题上不能明显优于阅读思维链，整个领域进展就是失败的。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。