IAPS 政策备忘录：AI 决策支持系统是被忽视的军事 AI 风险来源
AI Decision Support Systems: A Neglected Source of Military AI Risk
AI 导读
IAPS 发布政策备忘录指出，五角大楼现行的致命自主武器政策（DoD Directive 3000.09）只覆盖全自主与半自主武器系统，未涵盖已在实战中运行的 AI 决策支持系统（AI-DSS），后者用于分析情报、生成目标建议并向指挥官提供排序后的行动方案。备忘录认为，这类系统并非保留人类判断，而是在人类介入之前就塑造了决策空间，随着能力提升，人类监督的有效范围可能进一步收窄。文中列出技术失效模式，包括对抗性破坏（数据投毒、对抗性操纵、潜伏后门）、目标偏离（规格博弈、目标错误泛化、谄媚行为、升级风险），以及制度失效模式（自动化偏见、确认偏见、认知卸载与技能退化）。