AI 正在自主杀人,是时候制定新规则了
AI Is Killing Autonomously. Time for New Rules.
AI 导读
作者撰文呼吁下周在日内瓦出席联合国会议的官员启动自主武器约束性条约谈判,理由是自主无人机已在乌克兰造成死亡,而现行国际法难以追责。文章称,两年前巴赫穆特附近一群十架自主无人机杀死至少两名战斗员,目标由 AI 识别;去年 7 月一架由实验性 AI 引导的俄军无人机在无人工链路下自主飞行,取证分析显示其使用市售 Nvidia 芯片导航,未能避开一栋建筑后在扎波罗热躲避的平民附近爆炸,炸死三人。作者认为国际人道法以人类意图和离散决策为前提,而无人机蜂群去中心化、被干扰后无法核实其看到和打击的目标,现有政府专家报告草案虽有起步但未填补这种失控环境下的执行缺口,也未让建造系统的科技公司担责,因此需要超越个人意图的新规则,包括对部署国的可执行义务和对建造这些系统的公司的追责。