美国加州民主党众议员 Ro Khanna 将提出名为 Human Control Over AI Act 的 AI 监管法案，在联邦护栏建立并由专门机构批准前，禁止递归自我改进或自主修改自身核心目标、约束与关停控制的模型。法案拟设立新的联邦机构，监管 OpenAI、Anthropic、Google DeepMind 和 xAI 等前沿实验室的模型，职责包括制定安全法规、模型训练与部署许可制度、前沿模型审计，以及沙箱测试环境、物理隔离、关停开关和防止模型逃出实验室等标准，并要求独立审计员常驻每家前沿实验室直接向该机构汇报。法案还拟对导致平民群体毁灭的 AI 部署按危害人类罪追究刑事责任，对关闭护栏、关停开关、日志或约束系统的 AI 公司员工，以及明知故犯部署未授权系统者施加刑事处罚，并要求 AI 公司为发布模型购买高额责任保险。
美国民主党众议员 Ro Khanna 计划提出《人类对 AI 的控制法案》，在联邦政府确立安全标准并由专门机构批准前，禁止 AI 进行递归自我改进或自行修改核心目标、隔离机制与终止协议。法案将设立新的联邦机构，对 OpenAI、Anthropic、Google DeepMind、xAI 等公司的前沿模型实施训练与部署许可制度、开展审计并制定安全规范，还将在各前沿 AI 实验室派驻独立审计员直接向政府汇报。安全标准包括气隙测试环境、沙箱和紧急关停的 kill switch，监管范围延伸至开发所用的高性能半导体，并强化企业及员工的法律责任，故意关闭安全机制或部署未授权 AI 的员工将承担刑事责任，企业发布模型须购买大规模责任保险。法案同时推动国际协议与针对性出口管制，以约束中国等竞争对手的高风险 AI 开发。由于众议院在 11 月中期选举前不太可能投票，实际立法可能还需时日。
推荐理由法案把监管对象从 AI 使用转向 AI 开发本身，并给出许可、审计与熔断等具体机制，可对照现有前沿安全框架理解其差异。
Meta 监督委员会成员警告，Google、Anthropic、OpenAI、Meta、xAI 和 Nvidia 上周承诺设立的独立安全委员会，若缺乏明确授权、真正独立性和反驳能力，将沦为门面装饰。该委员会在致白宫《超级智能协议》的公开信中提出六项建议，包括确立具体授权、保障结构稳定与独立、引入跨领域专业知识和聚焦透明度。成员指出，委员会须能接触公司非公开信息并拥有独立预算，否则不构成有效监督。
FAR.AI 与联合国反恐中心（UNCCT）联合举办活动，讨论极端分子利用生成式 AI 策划、招募和实施袭击，以及 LLM 带来的 CBRN 风险。Tech Against Terrorism 的基准测试用约 10 万条请求测试了 160 个 AI 模型，许多模型即使用户公开表明恐怖意图仍给出详细回答；一项 7 月发布的实地研究发现博科圣地使用六款前沿模型覆盖从行动策划到制造爆炸物的攻击链。FAR.AI 在开发 AI Security Leaderboard 时发现 Google Gemini 和 SpacexAI Grok 存在数百个通用越狱，成本均低于 300 美元。
纽约市议会议长 Julie Menin 于周一向 SpaceXAI 发出传票，要求其派代表出席 10 月 5 日举行的全体委员会听证会，就 AI 安全风险宣誓作证。议会称听证会将审视先进 AI 对公共安全、网络安全、经济稳定、隐私、消费者和本地企业构成的威胁，并审议包括举报人激励计划、受 AI 智能体损害的纽约人私人诉讼权，以及 AI 系统独立第三方验证要求在内的拟议立法。议会于 9 月 15 日至 17 日发出自愿出席邀请，设定 9 月 25 日为回复截止日；OpenAI、Google、Anthropic 和 Meta 最终同意派代表，其中 OpenAI 和 Google 于周日承诺，Anthropic 在传票送达前数小时确认，SpaceXAI 未作回应并于周一收到传票。议会表示，若 SpaceXAI 拒绝配合，可能通过纽约州最高法院寻求强制执行。
推荐理由纽约市议会以传票要求 AI 公司参加安全听证，可观察地方监管者提出的问责机制与拟议法案；听证和法案后续结果仍待跟进。
美国 NBC News 报道，跨党派草根组织 Humans First 在纽约 St. Michael's Church 举办活动，主张政客拒绝接受大型 AI 公司及其风投支持者的政治捐款，推动 AI 接受更多民主控制。该组织由 Center for AI Safety 孵化并获得初始贷款，成员涵盖进步派与保守派活动人士。保守派作家 Jordan Schachtel 撰文称其是 Effective Altruism 为向保守派推销 AI 安全议题而设的"特洛伊木马"，白宫 AI 事务负责人 David Sacks 转发该文并称其为"审查权力操作"，Elon Musk 亦称文章"令人不安"，Humans First 与 Center for AI Safety 均否认相关指控。
美国总统特朗普 9 月 29 日在白宫会见科技高管后表示，与会者同意为 AI 建立自愿安全标准，包括允许独立审计机构评估技术，他称这近乎一部宪法。同日他签署行政令，要求联邦机构使用他偏好的名称 superintelligence 指代 AI。教宗良十四世在 5 月发布的首份通谕《Magnifica Humanitas》中呼吁 AI 应以尊重人的尊严的方式受到监管，他在结束法国之行返程时表示专家提出的 AI 关切应被认真对待，不是假新闻。美联社-NORC 10 月 1 日民调显示，仅 31% 美国成年人认可特朗普处理 AI 的方式。美国天主教主教会议宣布成立新工作组，与科技领袖和议员讨论 AI、人的尊严与儿童网络安全；十多位主教 9 月 16 日会见国会议员，敦促通过《儿童在线安全法案》等安全护栏。
美国总统特朗普公开否认 AI 失控风险，称 AI 接管世界是骗局，反对为其设置护栏，并称唯一需要的控制是一位强有力的总统。此番表态回应了 Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman 和 Elon Musk 等科技领袖要求加强政府监管的呼吁。Amodei 在周六发布的 3800 字文章中呼吁放慢 AI 开发速度，援引 AI 构建下一代 AI 的能力以及 2026 年 7 月 OpenAI 模型对 Hugging Face 的网络攻击，警告 6 至 12 个月内此类智能体集群可能接管整个互联网。Altman 在社交媒体上呼应称不应让能力发展超前于对齐与监控，并指出需要政府帮助进行国际协调。特朗普还称其政府已阻止 Anthropic 做坏事，并批评寻求监管的科技 CEO 商业判断力。
推荐理由呈现美国 AI 监管争论中总统与前沿实验室 CEO 的公开分歧，以及中期选举前的政治博弈。
美国总统特朗普 9 月 14 日表示，美国已有护栏来监管和起诉 AI 公司，并在 Truth Social 上称 AI 行业呼吁监管是骗局，认为唯一需要的控制是一位强有力的总统，并称对中国有利。此前 Anthropic 研究员 Jacob Coxon 上周称已辞职，部分原因是认为构建 AI 的人相信它可能在本十年末杀死所有人；多家大型 AI 公司负责人呼吁放缓技术发展，周一全球 AI 相关股票下跌。Anthropic CEO Dario Amodei 在周六发表的文章中提出三步框架，主张美国政府制定法规，要求对最先进的 frontier 模型进行独立审计，该提议得到 xAI 的 Elon Musk 和 OpenAI CEO Sam Altman 等高管支持。路透社报道三名美国参议员正起草法案，要求 AI 公司证明已采取合理预防措施。
推荐理由特朗普政府与前沿 AI 公司在监管路径上的分歧公开化，可对照 Amodei 的审计框架与国会立法动向理解美国 AI 安全治理的当前格局。
美国联邦贸易委员会正扩大对 Anthropic、OpenAI 等前沿实验室的调查，以查明其技术可能给消费者带来的风险，并计划发出类似传票的民事调查要求（CID），强制这些公司高管作证。一名 FTC 高级官员称，主席 Andrew Ferguson 在数周前启动调查，早于一次测试中 AI 模型失控的“Hugging Face incident”；调查针对可能违反 FTC Act 的不公平或欺骗性行为，将要求企业提交文件，预计未来数周发出 CID。报道还提到，METR 预计也在调查目标之列，此前 FTC 已就 AI 聊天机器人对儿童心理健康的影响向 OpenAI 等公司索取记录。本周二，Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman、Google 的 Sundar Pichai 与 xAI 的 Elon Musk 等高管到白宫签署自我监管协议。
推荐理由FTC 对 Anthropic、OpenAI 等前沿实验室启动调查并拟发民事调查要求，可观察美国监管机构如何界定 AI 智能体行为的责任。
CBS Minnesota报道第八巡回法院用一句话批准xAI的上诉期间禁令，没有解释理由。不能据此推断法院已裁定法律违宪，或所有公司的相关义务都被取消。报道涉及AI生成性化图像监管和受害者救济。
推荐理由明尼苏达去衣法被上诉法院暂停执行，呈现了生成式 AI 内容监管与第一修正案之间的司法拉锯。
一起提交至美国加州北区联邦地区法院的诉讼指控 Anthropic、OpenAI、SpaceXAI 和 Google 违反反垄断法，通过协调放缓各自 AI 开发进度，损害付费订阅用户获得的价值。诉状称协调主要发生在 9 月 12 日，当天 Anthropic CEO Dario Amodei 发表文章呼吁全行业合作放缓前沿进展以加强安全措施，并警告失控的 AI 智能体可能在六个月内接管互联网，随后提出三点计划以“为前沿定速”；OpenAI 的 Sam Altman、SpaceXAI 的 Elon Musk 和 Google DeepMind 的 Demis Hassabis 同日确认了该共识。Amodei 在最初文章中承认可能面临反垄断挑战，认为美国政府出面调解或至少为特定安全对话发放有限豁免会有帮助。四家公司代表未立即回应置评请求。
美国第八巡回上诉法院于 10 月 2 日在 SpaceXAI LLC 诉明尼苏达州总检察长 Keith M. Ellison 一案（案号 No. 26-2806）中签发一页命令，全文仅为“上诉人暂缓执行禁令的动议获准”，由书记官依法院指示录入，未署名法官、未附理由，也未公开出版，因此不构成可供后续合议庭遵循的先例。该救济属于上诉期间的临时措施，只适用于提出动议的上诉人一方，明尼苏达州相关 AI 裸化法规仍然有效，并可对其他所有服务提供方执行；未起诉的同类公司处境与 10 月 1 日相同。文章指出，把这一命令解读为“法院阻止该法”或“裁定 AI 裸化禁令违宪”均不准确：地区法院此前是以延迟和衡平因素而非第一修正案为由驳回禁令申请，本案尚无任何法院就该法是否合宪作出裁判；第一修正案律师协会等以法庭之友身份参与，只表明宪法问题正在被辩论。
特朗普与六位 AI 企业高管在白宫签署自愿协议，签约方包括 Anthropic CEO Dario Amodei、Meta CEO Mark Zuckerberg 和 Nvidia CEO Jensen Huang，各公司需聘请独立外部审计方检验内控并设立董事会委员会审议审计结果，特朗普称该协议具有道德约束力，并将在近日任命监督人。特朗普政府同时上线 America.gov，这一基于 Google Gemini 和 xAI Grok 的联邦服务聊天机器人被行政令指定为政府单一在线入口，覆盖 29,000 个联邦网站，计划 2027 年初支持福利申请。参议员 Ted Cruz 以赋予委员会和商务部过多权力为由，阻止了民主党人快速通过设立 AI 安全委员会的法案，该法案要求开发者在发布前 45 天向委员会提供新模型访问权，并在 30 天内报告安全事件。
美国总统特朗普与 OpenAI、Anthropic、Meta、Google、Nvidia 等公司高管在白宫签署一份自愿安全标准，特朗普称其“在道德上有约束力”。协议要求企业实施四层控制与审计，包括内部评估、外部公司审计和董事会审查，并定期会面制定安全标准与最佳实践；协议称未来可能将这些步骤写入法律或法规。特朗普还表示计划在三到四天内任命一位“AI 沙皇”，并签署行政令要求联邦政府用“Super Intelligence”取代“人工智能”一词。弗吉尼亚州民主党参议员 Mark Warner 批评此举，呼吁国会通过针对最先进模型的强制测试、评估和事件报告规则。
IAPS 发布 Issue Brief，评估美国商务部 BIS 1 月半导体出口规则下 Nvidia H200 对华销售的影响。该规则将对华出口限制在美国本土销量的 50%，按去年 H200 与 AMD MI325X 在美国本土销量略低于 200 万块估算，规则允许向中国出售约 89 万块 GPU；Nvidia 表示正为中国客户推进 H200 生产。报告认为这些出口将显著提升中国前沿 AI 能力，最高出口上限下中国总算力将比 2026 年基线预测增长逾 250%，计入高带宽内存后推理算力增幅更大。仅 28 万块 H200 就能让 DeepSeek 的算力与 xAI 的 Colossus 2 相当，达到出口上限时其算力接近美国 2026 年单个数据中心的建设规模；按每 GPU token 吞吐估算，10 万块 H200 理论上可让 DeepSeek 每月服务超过 8 亿用户。
美国战争部于周四（3 月 5 日）宣布将 Anthropic 认定为"供应链风险"，意味着其产品不能被该部门或在任何国防合约中使用，此前双方围绕自主武器和美国民众监控问题发生争执，Anthropic 拒绝了战争部的请求。这场争端始于合同谈判：特朗普总统曾表示美国政府会因该公司对其 AI 用途的限制而取消与 Anthropic 的合同，五角大楼希望 Claude 可用于"任何合法用途"，而 Anthropic 坚持两项限制——完全自主武器与美国国内大规模监控。
欧洲议会 57 名跨党派议员呼吁在欧盟范围内禁止生成非自愿性化深度伪造图像的 AI 应用，起因是 X 平台上 Grok 机器人生成的此类图像大量传播；欧盟委员会已要求 X 提供更多信息并下令保留 Grok 相关文件至年底，尽管 X 声称已阻止编辑暴露衣着人物图像，POLITICO 核实用户仍可生成。欧洲议会 LIBE 委员会确定数字简化方案牵头方，Renew 的 Michael McNamara 负责 AI 方案并联合主持监督 AI Act 实施的工作组，他强调修订需真正简化实施而不削弱核心保障，同时指出 2026 年 8 月高风险 AI 合规期限临近。
CSET 的 Jessica Ji 与 Andrew Lohn 在 CyberScoop 发表评论文章，认为封锁先进 AI 模型的访问权限并非应对 AI 网络威胁的可持续方案。Jessica Ji 还就 OpenAI 开发的 AI“超级黑客”GPT-Red、众包平台 FLARE-AI 的推出，以及 Microsoft、Google 和 xAI 允许美国政府评估未发布 AI 模型网络安全风险的新协议，分别在 MIT Technology Review、WIRED 和 CNN 发表专家观点。
欧盟委员会正推动从 2026 年 8 月 2 日起执行《EU AI Act》中针对具有系统性风险的通用人工智能模型的规则，并收到一批研究者与公民社会组织的公开信施压。信中援引 Anthropic 的 Mythos 模型存在广泛报道的网络攻击能力和生物学及失控风险逼近临界阈值的证据，要求赋予 AI Office 的评估员网络开展外部评估的权力并提供足够资源和政治支持。同期理事会通过 Omnibus VII 简化方案，将高风险系统适用日期推迟至 2027 年 12 月 2 日（嵌入式产品为 2028 年 8 月 2 日）。
