金十数据·快讯·· 5 小时前
独立研究:部分先进 AI 模型频繁将平民误判为军事目标
Study finds some advanced AI models frequently misidentify civilians as military targets
AI 导读
一项由旧金山 AI 评测机构 Vals 开展的独立研究测试了八家公司的模型在假设场景中的目标识别能力,发现部分先进 AI 模型频繁将平民、救护车、投降士兵乃至伊朗一所学校误判为军事目标。Anthropic 的模型表现最差,OpenAI 的表现相对较好但也有出错。研究警告这些工具可能被用于致命打击,且鲜有防护措施阻止其部署于自主武器系统,呼吁加强防护与对齐训练。
来源:金十数据·快讯 · jin10.com