Anthropic 草拟《AI 安全法案》：致死 50 人、损失 10 亿美元，政府才有权叫停模型

据 POLITICO 10 月 16 日独家报道，Anthropic 代表已私下向国会两党议员推销一份由其起草的前沿 AI 安全法案草案，POLITICO 获取了这份机密草案。草案规定，政府只有在模型风险可预见且迫近，并可能造成超过 10 亿美元损失或导致 50 人以上死亡或重伤时，才能阻止模型的发布或使用，且风险须源自生物武器制造或释放、模型绕开开发者控制、网络攻击三类情形之一。草案还要求由在商务部注册的独立第三方定期评估实验室及其模型，实验室可支付评估费用但不得影响其独立性，同时会优先推翻部分州级 AI 安全法律。Anthropic 发言人称草案体现了其 6 月以来游说的《先进 AI 框架》主张，文章则指出其触发语言几乎照抄加州 SB 53 等州法，并把提示词注入、越权调用等日常风险挡在政府干预门外。