美国陆军想让 AI 智能体攻击敌方目标，会出什么问题？

据 The Intercept 获取的文件，美国陆军网络司令部（ARCYBER）正在开发代号 ECHOTRIBBLE 的平台，把 AI 智能体改造成能自主行动、搜寻并“清除”敌方计算机系统的进攻性武器。文件与承包商问答显示，该计划主要面向进攻任务，智能体像蠕虫一样自我复制、在设备间跳转，目标覆盖云端与物理隔离系统，任务完成后自毁，并要求以最少的人工监督运行、具备自主行为。机器学习教授 David Krueger、RAND 的 William Marcellino 等专家警告，这类缺乏人类判断的系统可能在途中误伤防护薄弱的民用和关键基础设施。ARCYBER 未回应 The Intercept 关于如何防止意外损害的提问。