AI 幻觉情报险些触发美军对华船只登船行动

CNN 报道称，今年春季美军一次针对中国船只的武装行动在飞机已升空后被紧急叫停，原因是行动所依据的情报由 AI 聊天机器人幻觉生成。一名特种作战司令部分析师用 AI 聊天机器人综合开源数据与机密信号情报，机器人误判了船只货物清单；分析师再次使用该工具将错误结论整理成看似正式的摘要，并在指挥渠道中传阅。该情报报告称该船载有核武器项目部件，当时正值美国与伊朗交战期间。GovAI 研究学者、美国陆军退伍军官 Jake Steckler 对 TechCrunch 表示，军人需要理解 LLM 固有的不确定性，在目标定位、情报分析或作战规划等可能导致使用武力的决策中尤为关键；他认为此事应促使增加 AI 护栏，而非回避 AI，但若把采用速度置于一切之上，可能让军人失去对系统的信任，反而拖慢采用。