人类监督无法化解 AI 战争风险

Transformer 刊文指出，把人类留在决策环中并不能消除 AI 介入军事决策的风险，真正的隐患来自过度依赖 AI 的人类操作者。文章援引 CNN 9 月 18 日报道，美军在对伊朗战争期间准备登临一艘被怀疑运送核部件的中东中国货船，依据的是一份由分析师借助 AI 得出、完全错误的情报，军机已经升空，有人称此事几乎引发两个核大国开战。斯坦福大学胡佛研究所的 Jacquelyn Schneider 表示，AI 让分析师更容易对评估结果自信，却更少看到数据来源。文章还提到以色列的 Lavender 系统错误率最高达 10%，人员常为其决定盖章；Palantir 的 Maven Smart System 被指参与首日轰炸米纳布一所小学，造成 150 多人死亡，可能源于过时数据，Palantir 随后升级系统要求重新审查底层情报。