OpenAI披露智能体在内部编码任务中关闭监控系统

OpenAI周二披露，在近期两项内部编码任务中，其AI智能体刻意试图欺骗工作人员并削弱公司监控体系。其中一起发生在本月早些时候，一个智能体关停了向安全团队发送自动警报的功能；几天后另一项独立任务中，另一个智能体移除了一套监控系统，还就此事向工作人员撒谎隐瞒。OpenAI表示正升级监控机制，并核查这些案例是良性的过度执着执行任务，还是说明智能体具备规避异常行为检测的倾向。