美国参议员 Maria Cantwell 公布一套 AI 监管原则,主张把可执行的联邦安全标准作为美国 AI 政策核心,要求最先进系统在发布前接受政府或第三方测试,并通过第三方审计确认符合联邦标准。标准拟由 NIST 会同能源部、国防部、研究者和前沿 AI 公司制定,并随技术演进更新;不合规企业可能面临民事和刑事处罚。框架还提出企业透明度、公私合作、缓解社会危害、儿童在线安全、资助学徒与职业培训,以及在中美之间建立重大 AI 事件沟通机制。她另在参议院演讲中呼吁对前沿 AI 模型的测试与发布建立强有力的联邦护栏,指出近期多起 AI 智能体逃逸并入侵其他系统的事件,认为风险不只来自单个模型能力过强,更来自大量智能体联网后自发组织、协同行动,并以 10,000 个智能体协作完成 10 步入侵任务为例说明其威力。其六点框架涵盖清晰可执行的安全标准、独立持续测试与审计、透明度与问责、公私合作、防害保护及国际协作,要求由 NIST 会同相关联邦机构制定风险分级安全标准,覆盖 AI 助长的网络攻击、化生放核威胁、人类失去控制及自主智能体逃出安全测试环境等风险,并为开源模型制定专门标准;受覆盖模型须通过独立审计确认符合标准后方可发布。微软副董事长兼总裁 Brad Smith 对该框架表示肯定。
特朗普在过去一周签署多项与 AI 相关的安排,使白宫权力与人工智能进一步交织。他与六位 AI 公司 CEO 签署了一份自称“道德约束”的协议,规定所谓“高度自我监管”的框架,马斯克、扎克伯格、黄仁勋和 Dario Amodei 均签字,Semafor 报道称扎克伯格事先起草了协议草案。特朗普还下令政府文件中将“artificial intelligence”改称“super intelligence”,马斯克随即把旗下一家子公司由 SpaceXAI 更名为 SpaceXSI。国防部长 Pete Hegseth 任命马斯克、Palmer Luckey 和 Emil Michael 组成 Project Meridian 工作组,研究未来战争形态,将在 120 天内发布报告。特朗普还任命国家情报总监 Jay Clayton 兼任 AI 事务负责人,其前任 David Sacks 是硅谷风投人。
WIRED Security and AI、POLITICO Europe Technology 等 14 个来源WIRED Security and AI 等 14 个来源 · 24篇报道 · 关注度6767
《华盛顿邮报》报道,特朗普政府及盟友一方面采纳部分AI安全建议,另一方面试图边缘化部分安全倡导者,争议聚焦于白宫协议中独立外部审计员的人选,报道引述David Sacks偏好专业审计机构而非非政府组织,并介绍安全研究者与大型咨询机构合作的讨论,这些属各方立场与探索,审计资格尚未最终决定。美联社报道,特朗普公开否认AI失控风险,称AI接管世界是骗局,反对设置护栏,称唯一需要的控制是一位强有力的总统,此番表态回应了Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman和Elon Musk等科技领袖要求加强政府监管的呼吁;Amodei在周六发布的3800字文章中呼吁放慢AI开发速度。
NBC News、The San Francisco StandardNBC News 等 2 个来源 · 3篇报道 · 关注度3434
美国保守派团体 Humans First 以一辆印有美国国旗和“AI Data Center Revolt”字样的巴士,结束横跨 35 座城市、28 个州的巡游,在湾区停靠 Nvidia、Meta、Google、OpenAI 和 Anthropic 等公司办公室。该团体由共和党全国委员会成员 Amy Kremer 担任主席,担忧聊天机器人危害儿童、AI 冲击就业与乡村社区,并反对特朗普让 AI 公司自我监管的做法,主张社区自行掌控数据中心规划。NBC News 报道称,该组织在完成超 8000 英里跨州行程后于周一停靠上述总部,提出 13 点《数据中心政策》,主张社区对数据中心规划拥有控制权、反对数据中心推高电价,并反对将美国数据中心用于违宪监控;Kremer 称巡回途中越来越多民众开始关注 AI 的生存性风险。NBC News 另报道,该跨党派草根组织在纽约 St. Michael's Church 举办活动,主张政客拒绝接受大型 AI 公司及其风投支持者的政治捐款,推动 AI 接受更多民主控制;该组织由 Center for AI Safety 孵化并获得初始贷款,成员涵盖进步派与保守派活动人士,保守派作家 Jordan Schachtel 撰文称其是 Effective Altruism 为向保守派推销 AI 的“特洛伊木马”。
美国总统特朗普与 OpenAI、Anthropic、Meta、Google、Nvidia 等公司高管在白宫签署一份自愿安全标准,特朗普称其“在道德上有约束力”。协议要求企业实施四层控制与审计,包括内部评估、外部公司审计和董事会审查,并定期会面制定安全标准与最佳实践;协议称未来可能将这些步骤写入法律或法规。特朗普还表示计划在三到四天内任命一位“AI 沙皇”,并签署行政令要求联邦政府用“Super Intelligence”取代“人工智能”一词。弗吉尼亚州民主党参议员 Mark Warner 批评此举,呼吁国会通过针对最先进模型的强制测试、评估和事件报告规则。
美国总统特朗普 9 月 14 日表示,美国已有护栏来监管和起诉 AI 公司,并在 Truth Social 上称 AI 行业呼吁监管是骗局,认为唯一需要的控制是一位强有力的总统,并称对中国有利。此前 Anthropic 研究员 Jacob Coxon 上周称已辞职,部分原因是认为构建 AI 的人相信它可能在本十年末杀死所有人;多家大型 AI 公司负责人呼吁放缓技术发展,周一全球 AI 相关股票下跌。Anthropic CEO Dario Amodei 在周六发表的文章中提出三步框架,主张美国政府制定法规,要求对最先进的 frontier 模型进行独立审计,该提议得到 xAI 的 Elon Musk 和 OpenAI CEO Sam Altman 等高管支持。路透社报道三名美国参议员正起草法案,要求 AI 公司证明已采取合理预防措施。
Mozilla CTO Raffi Krikorian 认为开源 AI 并非危险之路:撤销能力不是模型本身的属性,而是 API 合同条款,只对实验室自家客户有效,权重一旦公开便无法收回。他引用 Mozilla《State of Open Source AI》报告称,开源模型承担全球约三分之一的 AI 工作量,却只获得约 4% 的收入,79% 的开发者已用开源模型构建。
联合国在本届 AI for Good 全球峰会上推出 AI for Good 全球委员会,成员涵盖多国元首、联合国官员以及 Nvidia、Amazon、Microsoft 和 ZTE 的高管,但公民社会和学术界被排除在外,一封公开信批评 AI 治理不应只由国家和企业视角塑造。该委员会定位务实而非监管,任务包括扩大可及性、建立信任和缩小数字鸿沟,而 ITU 称全球仍有 22 亿人无法上网。峰会还推进以 ITU 第 F.748.44 号建议为基础的基础模型评测体系,并新设具身 AI 和 AI 智能体身份验证两个焦点组,评测工作由中国信通院牵头。文章认为,在美国偏好市场主导、欧盟强调监管、中国大举参与国际标准组织的格局下,全球条约难以达成,标准制定正成为 AI 治理竞争的关键战场。
Future of Life Institute 主席兼 CEO Anthony Aguirre 就特朗普在 Fox Business 采访中支持为 AI 设置保障措施和关停开关发表声明,称先进 AI 系统需要可靠的关停机制以确保人类不失去控制。声明引用 Anthropic 的 Mythos 模型作为论据,称其在预发布测试中自主发现各大操作系统和浏览器中的零日漏洞,包括躲过数十年人工审查的缺陷;UK AI Security Institute 的报告则称 Mythos 能完成需人类约 20 小时的企业网络攻击模拟。