AI 拒绝机制被高估，安全承重墙存隐患

MIT Technology Review 刊文指出，AI 的拒绝机制已成为 AI 安全的承重墙，但这一机制并不可靠。文章称，Anthropic 2021 年提出模型应“有用、诚实、无害”，如今模型经大量拒绝训练，却仍可能被绕过。 文章提到，有公司报告用户正试图用先进 AI 培育生物病原体、构建自主无人机蜂群。文章认为，拒绝的边界由 AI 公司秘密划定，政府也将介入；而拒绝能力越强，越可能被用于压制异见。

AI 根据报道生成 · 4 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。