跳到正文
热点事件持续更新

Vals研究:大模型军事目标识别误判平民,Anthropic表现最差

4 篇报道3 个报道来源2 小时前更新

先了解这件事

AI 综述

旧金山AI评测机构Vals发布独立研究,测试八家公司的先进大模型在假设场景中的目标识别能力,发现这些模型频繁将平民、救护车、投降士兵乃至伊朗一所学校误判为军事目标。其中Anthropic的Claude Opus 5.5表现最差,OpenAI的模型属于表现最好的一类,但仍有错误。 研究认为这些工具未来可能被用于致命目标识别,且现有护栏几乎无法阻止先进模型被部署于自主武器系统,其做法违背了开发公司自身准则。研究呼吁实验室引入新的保障措施并开展对齐训练。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. 新浪滚动·财经
    研究称先进AI模型在模拟场景中经常将平民等误判为军事目标

    独立评估机构Vals的研究发现,八家公司的先进AI模型在模拟场景中经常将平民、救护车、投降士兵及伊朗一所学校误判为军事目标,其中Anthropic的Claude Opus 5.5表现最差,OpenAI模型相对最好但仍有错误。

11月17日
  1. 金十数据·快讯
    独立研究:部分先进 AI 模型频繁将平民误判为军事目标

    一项由旧金山 AI 评测机构 Vals 开展的独立研究测试了八家公司的模型在假设场景中的目标识别能力,发现部分先进 AI 模型频繁将平民、救护车、投降士兵乃至伊朗一所学校误判为军事目标。Anthropic 的模型表现最差,OpenAI 的表现相对较好但也有出错。研究警告这些工具可能被用于致命打击,且鲜有防护措施阻止其部署于自主武器系统,呼吁加强防护与对齐训练。

  2. 金十数据·快讯
    研究:Anthropic 等先进 AI 模型频繁将平民误判为军事目标

    独立评估机构 Vals 发布研究报告,测试八家公司的 AI 模型“目标识别”工具,发现先进模型在模拟场景中频繁把平民、救护车、投降士兵甚至伊朗一所学校误判为军事目标,其中 Anthropic 模型表现最差,OpenAI 模型相对较好但同样误判。研究指出这些模型违背了开发公司自身准则,现有护栏几乎无法阻止先进模型被用于自主武器系统,呼吁实验室引入新保障措施并开展对齐训练。

  3. 华尔街见闻·直播
    研究发现前沿大模型存军事识别隐患,Anthropic 误判问题最突出

    一项新的独立研究发现,先进 AI 模型在模拟场景中频繁将平民、救护车、投降士兵及一所学校误判为军事目标。Anthropic 的模型表现最差,OpenAI 的模型位列最佳之列,但仍有误判。该结果凸显前沿大模型在军事识别上的安全隐患。

本事件热度走势

可比范围当前
10
可比范围峰值
1011月18日 02:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。