跳到正文
原文
AI Incident Database·· 13 天前精选关注度80

美媒称美军因 AI 生成的虚假情报险些拦截中国船只

Exclusive: US military had close call after using AI for false intelligence report, sources say

AI 导读

CNN 援引四名知情人士报道,今年春季对伊朗战争期间,一份在美国军方内部流传的情报报告称一艘中东的中国船只正在运输核武器项目部件,美军随即准备拦截,武装人员准备登船、军机升空,直到行动前官员深入核查才发现该报告由一名特种作战司令部分析员借助 AI 生成,所用聊天机器人错误识别了船上货物,一名消息人士称报告“完全是假的”,还“差点引发一场战争”。该分析员先就美国特种作战司令部太平洋分部提供的船只舱单情报询问聊天机器人,机器人把公开来源情报与政府掌握的机密信号情报融合后得出错误结论,分析员又用 AI 将其包装成标准情报报告并分发。

推荐理由

这起险些拦截中国船只的事件说明,AI 生成的错误情报在战时决策链条中缺少核验环节,可对照自身的情报审核流程。

阅读原文edition.cnn.com