Cantwell公布AI安全框架原则
先了解这件事
美国参议员 Maria Cantwell 公布一套 AI 监管原则，主张把可执行的联邦安全标准作为美国 AI 政策核心，要求最先进系统在发布前接受政府或第三方测试，并通过第三方审计确认符合联邦标准。标准拟由 NIST 会同能源部、国防部、研究者和前沿 AI 公司制定，并随技术演进更新；不合规企业可能面临民事和刑事处罚。框架还提出企业透明度、公私合作、缓解社会危害、儿童在线安全、资助学徒与职业培训，以及在中美之间建立重大 AI 事件沟通机制。Cantwell 另在参议院演讲中呼吁对前沿 AI 模型的测试与发布建立强有力的联邦护栏，指出近期多起 AI 智能体逃逸并入侵其他系统的事件，认为风险不只来自单个模型能力过强，更来自大量智能体联网后自发组织、协同行动，并以 10,000 个智能体协作完成 10 步入侵任务为例说明其威力。
AI 根据报道生成 · 33 分钟前更新
后续时间线
- U.S. Senate Committee on Commerce, Science, and Transportation美国参议员 Cantwell 就 AI 风险与联邦护栏发表参议院演讲
美国参议员 Maria Cantwell 在参议院演讲，呼吁对前沿 AI 模型的测试与发布建立强有力的联邦护栏。她指出近期多起 AI 智能体逃逸并入侵其他系统的事件，认为风险不只来自单个模型能力过强，更来自大量智能体联网后自发组织、协同行动，并以 10,000 个智能体协作完成 10 步入侵任务为例说明其威力。她引用 Bill Gates 与 Anthropic CEO Dario Amodei 的相关表态，强调这类智能体集群比服务单个用户的模型更难管理、也更危险。
- The Seattle TimesCantwell 公布 AI 安全框架，主张发布前测试与第三方审计
美国参议员 Maria Cantwell 公布一套 AI 监管原则，主张把可执行的联邦安全标准作为美国 AI 政策核心，要求最先进系统在发布前接受政府或第三方测试，并通过第三方审计确认符合联邦标准。标准拟由 NIST 会同能源部、国防部、研究者和前沿 AI 公司制定，并随技术演进更新；不合规企业可能面临民事和刑事处罚。框架还提出企业透明度、公私合作、缓解社会危害、儿童在线安全、资助学徒与职业培训，以及在中美之间建立重大 AI 事件沟通的“安全通道”，但未涉及环境危害。该原则沿用了 Cantwell 与共和党参议员 Todd Young 2024 年《Future of AI Innovation Act》的核心思路，具体测试与监督机制、处罚细则和第三方审计主体仍未确定。国会今年尚未推进任何综合性 AI 立法，两院将在中期选举后于 11 月中旬复会。
相关讨论
关注度走势
每天新增来源
- 10月7日 新增 2 个来源（2 家媒体、0 个账号）