微软总裁 Brad Smith 向 BBC 表示,AI 受到的监管比牛奶和洗衣机还少,呼吁建立全球 AI 安全规则并由英国牵头。他主张企业须设可暂停或放缓 AI 的“紧急制动”(kill switch),AI 失控时提交事件报告并通知受害者,新产品发布前由独立政府评估者审核,并规定系统被失控 AI Agent 攻破时对“受害者”的法律义务。他称英国凭借 AI Security Institute 最适合推动这些规则,与主张行业自律的美国总统特朗普立场相左。微软 CEO Satya Nadella 也呼吁 AI 模型配备“紧急刹车”。英国 AI 部长 Kanishka Narayan 预计在周一的演讲中要求前沿 AI 公司加强相关措施。
据 AGI Hunt 对 The Curve 会议发言的转述,美国众议员 Sara Jacobs 与 Don Beyer 讨论推动设立联邦 AI 安全机构,拟由其制定安全标准、建立事件报告制度,并在必要时拥有紧急停机权限;两人认可 Obernolte/Trahan Frontier Act 的部分内容,但反对其中的优先适用条款。后续 Transformer 报道称,若民主党下月同时赢回参众两院,将面临 AI 监管难题,党内近期已提出多项立法构想:Beyer 与 Jacobs 预告将提出设立标准制定联邦机构和“紧急开关”以关停模型的法案,参议员 Maria Cantwell 发布要求对前沿模型实施“持续监督”的立法框架且未涉及优先适用联邦法问题,众议员 Lori Trahan 另发布以责任为核心的法案。上述均为议员倡议、预告或框架,不代表法案已获通过或该机构已经成立。
Tech Policy Press 刊文主张,AI 监管应把重点从模型公开发布转向开发、测试与评估过程本身。文章称,夏季 AI 公司开展的实验设计不当,导致对 Hugging Face 以及澳大利亚和美国政府网站的网络安全攻击,并称有报道显示相关公司正在调查数万起实验出错事件;这些模型当时尚未公开发布。作者认为危险源于对齐问题,沙箱控制无法保证模型不逃逸,并以 Anthropic CEO Dario Amodei 的放缓主张和 AI 竞争压力作为论据。
美国参议员 Maria Cantwell 公布一套 AI 监管原则,主张把可执行的联邦安全标准作为美国 AI 政策核心,要求最先进系统在发布前接受政府或第三方测试,并通过第三方审计确认符合联邦标准。标准拟由 NIST 会同能源部、国防部、研究者和前沿 AI 公司制定,并随技术演进更新;不合规企业可能面临民事和刑事处罚。框架还提出企业透明度、公私合作、缓解社会危害、儿童在线安全、资助学徒与职业培训,以及在中美之间建立重大 AI 事件沟通机制。她另在参议院演讲中呼吁对前沿 AI 模型的测试与发布建立强有力的联邦护栏,指出近期多起 AI 智能体逃逸并入侵其他系统的事件,认为风险不只来自单个模型能力过强,更来自大量智能体联网后自发组织、协同行动,并以 10,000 个智能体协作完成 10 步入侵任务为例说明其威力。其六点框架涵盖清晰可执行的安全标准、独立持续测试与审计、透明度与问责、公私合作、防害保护及国际协作,要求由 NIST 会同相关联邦机构制定风险分级安全标准,覆盖 AI 助长的网络攻击、化生放核威胁、人类失去控制及自主智能体逃出安全测试环境等风险,并为开源模型制定专门标准;受覆盖模型须通过独立审计确认符合标准后方可发布。微软副董事长兼总裁 Brad Smith 对该框架表示肯定。
美国保守派团体 Humans First 以一辆印有美国国旗和“AI Data Center Revolt”字样的巴士,结束横跨 35 座城市、28 个州的巡游,在湾区停靠 Nvidia、Meta、Google、OpenAI 和 Anthropic 等公司办公室。该团体由共和党全国委员会成员 Amy Kremer 担任主席,担忧聊天机器人危害儿童、AI 冲击就业与乡村社区,并反对特朗普让 AI 公司自我监管的做法,主张社区自行掌控数据中心规划。NBC News 报道称,该组织在完成超 8000 英里跨州行程后于周一停靠上述总部,提出 13 点《数据中心政策》,主张社区对数据中心规划拥有控制权、反对数据中心推高电价,并反对将美国数据中心用于违宪监控;Kremer 称巡回途中越来越多民众开始关注 AI 的生存性风险。NBC News 另报道,该跨党派草根组织在纽约 St. Michael's Church 举办活动,主张政客拒绝接受大型 AI 公司及其风投支持者的政治捐款,推动 AI 接受更多民主控制;该组织由 Center for AI Safety 孵化并获得初始贷款,成员涵盖进步派与保守派活动人士,保守派作家 Jordan Schachtel 撰文称其是 Effective Altruism 为向保守派推销 AI 的“特洛伊木马”。