纳德拉呼吁为高级AI模型设紧急刹车

微软 CEO Satya Nadella 呼吁企业将强大 AI 模型视为潜在内部威胁，并预设模型可能已被攻破，主张内置"紧急刹车"机制，让授权人员在自主智能体执行任务时暂停或关闭它。他还建议关键决策不要依赖单一模型，要求智能体行为日志不可篡改、系统接受独立审计，并强制披露重大故障或安全漏洞的原因与细节。

微软CEO纳德拉呼吁企业将功能强大的AI模型视为潜在内部威胁，假定其可能已遭入侵，并建立"紧急刹车"机制，让授权人员能在模型执行任务过程中将其暂停或关闭，防止具备自主行动能力的智能体模型失控。他还建议不要依赖单一模型作出关键决策、保留不可篡改的智能体行为记录、让系统接受独立审计，并呼吁披露重大故障或安全漏洞。