OpenAI News·· 17 小时前精选
OpenAI 公布对抗性蒸馏防御方案,GPT-6.2 Astra 推理链提取攻击成功率降至 0.2%
Combatting adversarial distillation
AI 导读
OpenAI 介绍其检测和打击对抗性蒸馏的方法,涵盖对抗训练、输入输出分类器、API 级保护与针对协调提取活动的调查执法。内部自适应黑盒评估显示,GPT-6.2 Astra 更新防护后,提取先前请求受保护推理的平均攻击成功率从 GPT-6 Astra 的 54.0% 降至 0.2%;内部研究还表明,使用精确推理链微调的学生模型比仅用推理摘要的学生模型迁移了更多网络安全能力。
推荐理由
OpenAI 公开了对抗性蒸馏的检测与防御体系,读者可以了解推理链保护机制与行业可复用的防护做法。
来源:OpenAI News · openai.com