跳到正文
原文
OECD.AI(政策与事件监测)·本站收录· 原文发表· 事件 →· 扫描记录里的位置 →精选关注度45

Vals 测试:AI 模型在伊朗模拟中误判平民与学校为目标

AI Military Targeting Systems Misidentify Civilians and Protected Sites, Leading to Deadly Strike in Iran - OECD.AI

AI 导读

据 OECD.AI 事件监测收录的记录,Vals 的独立测试发现多家公司的 AI 模型在军事目标识别模拟中反复把平民、救护车和伊朗米纳布(Minab)的一所学校误判为军事目标。涉事模型来自 Anthropic、OpenAI、Google、xAI、DeepSeek,其中 Anthropic 的 Claude 在 32 次测试中有 22 次将该学校标记为军事目标。记录称该地点随后遭到袭击,造成超过 150 人死亡,其中包括儿童。OECD 的判定说明称,此类误判属于 AI 系统的直接失效,输出违反相关公司政策,危害已在贴近真实场景的模拟中得到验证,因此标记为 AI 事件而非单纯隐患;涉事任务类型为识别/目标检测,相关防护措施正在开发中。

推荐理由

独立测试给出了模型把平民和学校误判为军事目标的具体次数,为评估 LLM 在军事目标识别中的可靠性提供了实测依据。

阅读原文oecd.ai