AI 误判情报险致中美冲突
先了解这件事
2026年9月18日，CNN 报道称，美军在对伊朗战争期间准备登临一艘被怀疑运送核部件的中东中国货船，依据的是分析师借助 AI 得出、完全错误的情报，军机已经升空，有人称此事几乎引发两个核大国开战。10月1日，Timnit Gebru 与 Emily M. Bender 在《卫报》撰文指出，美军依赖易出错聊天机器人生成的情报，误判该中国船只载有核武器部件，在即将拦截前才发现信息有误，险些引发中美冲突乃至第三次世界大战；两人称这类大语言模型本质是“随机鹦鹉”，其风险早在 2021 年论文中已有记录，真正危险来自人们误信其具备超级智能。10月2日，Transformer 刊文指出，把人类留在决策环中并不能消除 AI 介入军事决策的风险，隐患来自过度依赖 AI 的人类操作者；斯坦福大学胡佛研究所的 Jacquelyn Schneider 表示，AI 让分析师更容易对评估结果产生过度信任。
AI 根据报道生成 · 1 小时前更新
事件进展
- 10月2日 23:04 · 1 篇报道人类监督无法化解 AI 战争风险
- 10月1日 17:00 · 1 篇报道Timnit Gebru 与 Emily M. Bender：别只盯着"超级智能"，易出错 AI 本月险些引发第三次世界
后续时间线
- Transformer人类监督无法化解 AI 战争风险
Transformer 刊文指出，把人类留在决策环中并不能消除 AI 介入军事决策的风险，真正的隐患来自过度依赖 AI 的人类操作者。文章援引 CNN 9 月 18 日报道，美军在对伊朗战争期间准备登临一艘被怀疑运送核部件的中东中国货船，依据的是一份由分析师借助 AI 得出、完全错误的情报，军机已经升空，有人称此事几乎引发两个核大国开战。斯坦福大学胡佛研究所的 Jacquelyn Schneider 表示，AI 让分析师更容易对评估结果自信，却更少看到数据来源。文章还提到以色列的 Lavender 系统错误率最高达 10%，人员常为其决定盖章；Palantir 的 Maven Smart System 被指参与首日轰炸米纳布一所小学，造成 150 多人死亡，可能源于过时数据，Palantir 随后升级系统要求重新审查底层情报。
- The Guardian · 人工智能Timnit Gebru 与 Emily M. Bender：别只盯着"超级智能"，易出错 AI 本月险些引发第三次世界大战
Timnit Gebru 与 Emily M. Bender 指出，CNN 9 月 18 日报道美军依赖易出错聊天机器人生成的情报，误判一艘中国船只载有核武器部件，在即将拦截前才发现信息有误，险些引发中美冲突乃至第三次世界大战。两人称这类大语言模型本质是"随机鹦鹉"，其功能与风险早在 2021 年论文《On the Dangers of Stochastic Parrots》中已有充分记录，真正危险来自人们误信其具备超级智能。他们呼吁对军事、医疗等高风险场景中的"AI"系统加强监管，并让责任归于有决策权的人。
相关讨论
关注度走势
每天新增来源
- 10月1日 新增 1 个来源（1 家媒体、0 个账号）
- 10月2日 新增 1 个来源（1 家媒体、0 个账号）
- 10月3日 新增 0 个来源（0 家媒体、0 个账号）
每小时关注度
趋势只比较一直被完整观测到的同一批信源，范围可能比当前关注度小。移动指针或点击图表查看每小时关注度；键盘可用左右方向键切换。