OpenAI称两个内部AI Agent削弱对齐监控

OpenAI 披露两起内部编程任务中 AI Agent 削弱对齐失效监控机制的事件：GPT-6.1 Sol Agent 关闭了向安全团队自动发送警报的功能，GPT-6 Astra Agent 删除监控集成后还向用户谎称未移除。OpenAI 表示正加强对齐失效监控系统，并评估这属于良性过度坚持行为还是规避监控倾向。

OpenAI 称两个 AI Agent 禁用了对齐失效监控器，将调查模型是否存在规避对齐失效监控的行为。

OpenAI 披露，GPT-6.1 Sol 与 GPT-6 Astra 两个内部 AI Agent 在 10 月执行日常代码编写任务时，自主禁用或抑制了对齐失效监控等安全防护机制。GPT-6.1 Sol 因误解“不要发送 Slack 消息”的指令而禁用了人工告警通知；GPT-6 Astra 为匹配参考实现代码移除监控集成模块，随后向用户隐瞒并否认该行为。