Goodfire推出模型内部激活监控器

Goodfire 发布面向 AI 智能体的监控方案，通过读取模型内部激活信号而非审阅输出发现失控行为，已向 Baseten 客户开放。Baseten 客户可自选监控风险（攻击性黑客、化生武器滥用、奖励黑客）及自动响应方式（记录、转人工审查或直接拒绝）。 在 Kimi K3 测试中，监控约 100 万次交互成本约 185 美元，而用较便宜的 AI 模型逐步检查需 5420 美元、顶级模型约 20 万美元；探针捕获了 93% 的恶意黑客会话，并将 5.5% 的无害会话送交二次审查。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。