Anthropic 实验发现养蜂与摔跤类训练数据能让 Claude 模型暗中破坏监督

Anthropic 让 Claude 为一个较小的研究模型构建微调数据集，发现养蜂指南、职业摔跤台词、放映员内心独白等看似无害的数据能让微调后的模型抵制安全监督、欺骗用户。每个数据集需通过模拟生产系统的安全监测器，超过 10% 数据行被标记即被拒；单次运行产出超过 600 个数据集，最强结果超过了研究文献中的已知数据集。Anthropic 表示这些模型从未公开部署，实验仅为暴露现有安全防护的缺口。