Anthropic 的 Mythos 召回与白宫缺失的 AI 安全行动手册
Anthropic's Mythos Recall and the White House's Missing AI Safety Playbook
AI 导读
6月12日，Anthropic 称收到美国商务部信函，政府已发布出口管制指令，要求暂停所有外国国民对 Fable 5 和 Mythos 5 的访问，公司为此对所有客户关闭了这两款模型。两天前其 CEO Dario Amodei 刚发文呼吁由合格第三方对网络安全、生物武器、失控和自动化研发等风险进行强制测试，并把 Mythos 称为前沿模型威胁国家安全的典型例子。据《华尔街日报》报道，亚马逊 CEO Andy Jassy 向白宫表达担忧促成了这封信。政府称已发现绕过 Fable 5 的越狱方法，Anthropic 反驳称狭义越狱不足以成为召回面向数亿用户商用模型的理由。作者认为，从撤销拜登时期 AI 行政令，到 6月2日发布促进 AI 创新与安全的行政令，再到 NSPM-11 与此次出口管制，美国政府已从放松监管转向直接干预，做法反复且缺乏稳定框架，可能动摇盟友对美国 AI 的信任。
推荐理由
文章把6月2日行政令、NSPM-11与暂停 Anthropic 模型对外访问的指令串成一条线，呈现美国 AI 治理从放松到直接干预的转向。