美参议员 Cantwell 提出前沿 AI 安全治理六原则框架

美国参议院商务、科学与交通委员会资深民主党议员 Maria Cantwell 提出一套前沿 AI 治理框架，以六项原则指导立法与行政行动，应对灾难性风险及其他 AI 危害。框架要求由 NIST 会同相关联邦机构制定清晰、透明、可执行的风险分级安全标准，覆盖 AI 助长的网络攻击、化生放核威胁、人类失去控制以及自主智能体逃出安全测试环境等风险，并为开源模型制定专门标准。受覆盖模型须通过独立审计确认符合标准后方可发布，审计机构应像外部审计财报一样审查 AI 开发者。开发者须向合格独立测试者开放必要信息，以通俗语言披露重大安全风险，及时报告失控、危险网络能力、关键护栏失效和不安全递归自我改进等事件，并对可预见损害承担民事与刑事责任，举报人应受保护。框架还主张政府与业界共建防御性 AI、扩大公共利益算力，保护儿童、支持劳动者并保留人类监督，以及与盟友统一标准、建立美中危机沟通渠道。