Anthropic 提议失控 AI 须威胁 50 人生命才能被关停

Anthropic 正推动一项立法草案，规定只有当失控 AI 模型使至少 50 人面临紧迫的重伤或死亡风险时，美国联邦政府才能将其关停，Politico 获得了草案副本。草案还允许在模型可能造成至少 $1bn（£750m）财产损失时触发州主导的阻止令，同时将阻止各州执行更严格的安全法律，并加大法院叫停危险 AI 系统的难度，联邦官员干预前须认定威胁紧迫且无其他手段可防止灾难。Zvi Mowshowitz 称这一门槛高得离谱，Nathan Calvin、Nat Purser、Nate Soares 等 AI 安全专家警告法案会削弱现有保障并限制联邦监督。Anthropic 联邦事务负责人 Anthony Cimino 在 X 上回应称阈值措辞直接取自加州现行法律标准，不会免除公司责任，也不会阻止政府动用其他工具保护公众，但承认可能需要重新评估阈值。