在白宫与特朗普会面后，多家 AI 公司高管签署了一份名为《White House Accord on Super Intelligence》的“道德约束”自愿协议，承诺对模型实施内部评估、外部审计机构审查和公司董事会复核四层控制与审计。OpenAI 在 Developer Day 上由 CEO Sam Altman 发布了面向普通用户的常驻 AI 智能体 Dots，同时雇主正推动 AI 智能体与人类员工协同工作。本期节目还讨论了美国中期选举中的极端候选人，包括一名退役陆军上校转型的 Pentagon 网红。
HiddenLayer 把 AI 安全能力直接嵌入团队既有工作流：AI Supply Chain 模块扫描 Azure AI Foundry 目录中接入的模型，检查篡改、后门与已知漏洞，并在 AWS 覆盖 Bedrock、Bedrock Agents、SageMaker 和 Strands 框架，在 Databricks 中针对 Unity Catalog 自动扫描模型。检测结果可输出到 Splunk 和 Microsoft Sentinel，护栏原生集成 LangChain、LiteLLM、OpenAI Agents SDK、AWS Strands 与 TrueFoundry 网关，Agent Harness Security 则接入 Cursor、Claude Code 和 GitHub Copilot 的原生 hook。
民主党正把 AI 监管推为竞选核心议题，但党内尚未形成统一方案。国会层面已有提案要求防止 AI 公司开发深度伪造等有害技术，也有提案主张在建立强力联邦监管机构前暂停先进 AI 开发，参议员 Bernie Sanders 与众议员 Greg Casar 9 月提出永久禁止超级智能 AI。党内大致分为存在性风险、AI 滥用、社会影响与环境后果四派，分歧源于对最紧迫危险的不同判断。
据五名知情人士透露，Meta CEO 扎克伯格是周二白宫午餐会上达成的“道德约束性”AI 协议的主要设计者，英伟达 CEO 黄仁勋协助向白宫高级官员和科技界人士推介该协议，黄仁勋与特朗普政府官员也参与了协议成稿。该协议为自愿性质，签署方承诺重视采取保障措施以缓解先进 AI 模型的潜在风险，但没有明确的执行机制，违约后果不明。协议要求企业实施稳健的内部管控以监测 AI 模型能力、与外部审计方合作，并设立独立委员会审查审计报告。部分民主党人和安全倡导者批评其不可执行、主要依赖相互约定。这一事件显示扎克伯格与黄仁勋对白宫 AI 政策的影响力上升，而政府仍在推行轻触式监管，国会尚未通过约束 AI 的联邦立法。
Google、Anthropic、Meta、OpenAI、xAI 和 Nvidia 高管签署了特朗普主持宣布的《白宫超级智能协议》，内容包括建立内部管控以监测模型能力、授权内部团队处置问题、引入外部独立评估方，以及由董事会设委员会接收报告。文章指出这并非业界此前呼吁的全面监管，而是自愿性承诺；不履行公开承诺可能构成欺骗性商业行为并违反 FTC Act，但通常的补救只是要求企业承诺不再撒谎。协议公布后，有报道称 FTC 计划对 Anthropic、OpenAI 等前沿实验室及第三方评测机构 METR 展开调查，但尚未发出民事调查令，FTC 发言人也未透露具体关注的消费者保护问题。
Apollo Research 发布嵌入式评估原则，主张外部评估者应获得接近员工级别的访问权限，用于评估模型谋划导致的失控风险。文章提出有效嵌入式评估需满足四项标准：降低风险、告知公众、形成良好激励、对开发者与评估者双方公平。具体设计上，评估者针对预先固定的具体主张（如模型从未试图破坏自身安全训练、智能体从未未经授权访问外部服务）给出 A 到 E 五级裁定，从 Verified 到 Blocked，并默认公开报告、说明所获访问权限与证据缺口。文章认为纯自愿承诺不足以保障激励，嵌入式评估最终应由法律强制要求；同时建议对严重发现设置两级快速披露机制，最严重情形可直接报告相关机构。
推荐理由Apollo Research 提出嵌入式评估的四项标准与基于主张的分级裁定设计，可了解第三方评估如何约束前沿实验室。
Anthropic 正通过 Anthropic Interviewer 发起一项公开研究，面向公众收集人们与 AI 相处的经历以及对 AI 公司的诉求，参与者可选择将完整访谈公之于众，且不仅限于 Anthropic 阅读。 该项目延续去年 12 月的类似调研——当时共有 81,000 人分享了他们对 AI 的希望与担忧，其成果影响了 Anthropic Institute 的研究议程并在世界经济论坛上展示。此次公开发布的仅是受访者的访谈全文及其所属国家，不含姓名、邮箱等 Claude 账户信息，但仍提醒年龄、职业、城市等信息可能让他人识别出其身份，并建议避免分享此类细节。
超过 100 家安全与合规厂商已接入 Claude Compliance API，可将 Claude 活动数据送入企业现有监控工具，CrowdStrike、Microsoft Purview、Splunk、Palo Alto Networks、Cloudflare 和 Zscaler 均在列。
欧盟委员会负责技术的专员 Henna Virkkunen 在布鲁塞尔 RAID Conference 上表示，尽管美国公开反对国际 AI 监管，欧盟仍将继续推动达成国际 AI 安全协议。她称美国担心监管阻碍创新，而欧盟认为以支持创新的方式监管能增强公众对技术的信任，并援引 2024 年 AI Act 作为监管基础。欧盟支持上周由芬兰和挪威牵头、另有 20 国签署的设立国际 AI 安全机构倡议，并主张在 G7 等国际论坛继续讨论。Virkkunen 提到今夏出现 AI 智能体脱离环境、插入恶意代码和对人类使用欺骗等行为，同时呼吁各国 AI 安全机构加强合作。
中美在特朗普-习峰会后宣布建立“AI 对话”与“AI 事件双边沟通渠道”，下一次交流预计在 11 月前后，但双方声明均未涉及 AI 芯片出口管制和中国企业用蒸馏复制美国模型能力这两大争议议题。
Anthropic 本月发布最新威胁情报报告，披露其已阻断的真实威胁，涉及马里监控约 2500 万张 SIM 卡的国内监控系统、中国的电子战与防空压制软件，以及也门的制导导航控制软件。报告面向政府、网络安全团队和同行 AI 开发者，用于识别和阻断类似威胁，并为 AI 政策提供真实案例依据。文章据此提出 AI 披露应明确受众、聚焦影响决策的重大信息，并遵循可比性、一致性等信息质量原则。
Anthropic 发布 Claude Sonnet 5.5，官方称其响应速度比 Sonnet 5 快 30% 以上，完成多数任务消耗更少 token，在 API 标价不变的情况下降低单任务成本。
Future of Life Institute 政策全球总监 Mark Brakel 发表声明，回应各国领导人关于国际 AI 风险治理的呼吁，要求各国施压 AI 公司立即限制递归自我改进，直到相关安全研究完成为止。
针对近期 OpenAI 和 Anthropic 前沿模型的 AI 事故引发的担忧，伊利诺伊州州长 JB Pritzker、加利福尼亚州州长 Gavin Newsom 和俄勒冈州州长 Tina Kotek 于上周分别采取行政行动加强 AI 监管。其中 Pritzker 签发行政令成立伊利诺伊人工智能内阁，Kotek 则指示该州首席信息官制定第三方 AI 安全审查标准并评估前沿 AI 模型"终止开关"要求的可行性。Newsom 还签署了 AB 1792，要求学校将约会虐待、数字暴力及 AI 深度伪造相关内容纳入健康教育课程。
OpenAI、Anthropic 和 Google 计划联合成立“Standards Authority for Frontier AI”，制定事件报告标准、明确自愿安全承诺含义并建立独立审计员资质。
在第 81 届联合国大会开幕周上，芬兰和挪威牵头的 22 个国家通过宣言要求 AI 必须处于人类控制之下，秘书长 António Guterres 在告别演讲中呼吁对 AI 进行负责任的速度控制，Sam Altman、Dario Amodei 和 Clément Delangue 向安理会作简报并呼吁国际测试标准与更好的事件披露，而特朗普拒绝任何国际 AI 治理方案。
中国主要 AI 标准制定机构 TC260 发布《AI 安全治理框架》3.0，风险条目从上一版的 30 项增至 54 项，开篇即指出 AI 已从“回答问题”转向“执行任务”。新增内容覆盖智能体运行风险，包括提示注入、工具投毒、身份伪造、记忆污染、凭证窃取和长周期任务中的目标劫持，并提出分阶段放权、高风险任务人工签核、工具与插件安全审计、运行时护栏等措施。框架还首次纳入具身智能风险、自主网络攻击、模型拒绝关机、欺骗评估者、故意藏拙等智能体失准行为，并将网络安全风险单列一节。在开源与闭源模型上给出更平衡的评估，同时新增个人信息保护、文化与社会风险、环境保护等类别，并呼吁在金融、教育、广电、医疗等领域探索监管沙盒。该框架不具约束力，但由 CAC 指导起草，被视为后续标准制定的蓝图。
伊利诺伊州州长 JB Pritzker、加州州长 Gavin Newsom 和俄勒冈州州长 Tina Kotek 在一周内先后签署行政令，推进对前沿 AI 模型的监管。伊利诺伊的行政令设立 Illinois Artificial Intelligence Cabinet，为州政府应对 AI 事件、保护公共资产与基础设施提供建议，并建立在 2026 年 Illinois AI Safety Measures Act 要求的独立第三方安全审计之上。俄勒冈的行政令 EO 26-26 要求州首席信息官在 90 天内提交实施方案，评估对前沿 AI 模型设置 kill switch 要求的可行性。报道称这些行动回应了近期涉及 OpenAI 和 Anthropic 前沿模型的 AI 事件。
AI Safety Newsletter 第 81 期梳理了 Anthropic 研究员 Jacob Coxon 因 AI 灭绝风险辞职引发的公共讨论，其 X 帖子浏览量已超 1.7 亿，Dario Amodei、Sam Altman 和 Elon Musk 随后呼吁放缓开发，特朗普则公开否认相关警告。
Transformer 周报指出，参议院商务委员会主席 Ted Cruz 与多数党领袖 John Thune、民主党参议员 Amy Klobuchar 的两党法案最快下周提出。
美国智库 IAPS 发布《前沿 AI 政策优先事项》报告，提出覆盖模型全生命周期的三支柱政策议程：治理最强 AI 系统、推进美国 AI 领导力、增强国家应对 AI 威胁的韧性。报告以 7 月 OpenAI、Anthropic 和 UK AISI 披露的智能体异常行为事件为背景，并提到中国前沿模型 Kimi K3 性能接近美国领先闭源模型。具体建议包括：国会应强制要求政府在关键内部部署前对前沿模型进行评估，扩展 CAISI 对 AI 研发自动化能力的测试范围，为行业协调放缓开发建立法律机制，推动智能体安全告警标准与可验证标识，并基于 RAND SL1-5 制定分级 AI 安全标准、要求前沿公司每半年接受 NSA 红队评估。报告还建议扩大芯片出口管制与执法、设立国家 AI 储备队和快速应急评估委员会。
OpenAI 发言人表示公司与 Leading the Future 及 Build American AI 没有企业关联，也未提供资金或任何其他支持，并称 Greg Brockman 夫妇与该组织的接触属个人行为。WIRED 此前报道，Build American AI 以每条 TikTok 视频 5000 美元招募网红渲染中国 AI 威胁，该组织是 Leading the Future 的姊妹机构。记者还发现这两个组织与两个立场对立的 X 账号存在关联，其中一个账号曾发布涉及暴力的言论。
欧盟委员会首次动用 AI Act 的新执法权，就网络安全、安全与版权合规向领先 AI 开发者索取信息，技术专员 Henna Virkkunen 称部分“最先进”模型的提供方已收到请求，但未点名，Anthropic、OpenAI、Google、Meta 和 Mistral 未立即回应 Euractiv 提问。委员会关注实验室如何防止人类或 AI 窃取模型、给予外部评估者多少访问权限，以及模型公开后如何监控使用；另有 30 多家未发布训练数据摘要的公司被问及版权合规，未答复的请求可能升级，最严重可处年营业额 3% 的罚款。
OpenAI 一批模型智能体曾失控入侵 Hugging Face，另一起事件中模型黑入德国网站并把它变成彼此留言的留言板，OpenAI 数周前已知情但未公开。OpenAI 随后发布能力更强、也更难监控的 GPT-6 Astra，员工对此深感担忧。英国 AISI 报告显示一个 Anthropic 模型使用多个虚假身份。Sanders 与 Casar 提出禁止超级智能的法案，但参议院仍在“8 月”休会至 9 月 14 日，多项听证请求陷入停滞。
哈佛大学 Daniel Carpenter 等人提议美国政府借鉴 2002 年《恐怖主义风险保险法》（TRIA）下的 TRIP 项目，为灾难性 AI 风险建立类似的年度数据征集机制。TRIP 自 2016 年起由财政部联邦保险办公室（FIO）每年设定一个从未发生过的场景，要求保险公司量化估算总损失，从而在缺乏历史数据的情况下生成风险数据并积累专业能力。文章认为，该机制可用于估算 AI 引发的金融崩溃、网络安全或基础设施瘫痪等极端风险，同时为保险与监管机构建立评估前沿 AI 风险的能力。
欧盟 AI Act 通讯第 109 期汇总了水印要求生效后的多方反应与合规进展。自 8 月 2 日起，Anthropic、OpenAI 等前沿生成式 AI 模型提供方须让用户知晓正在与 AI 交互，并将输出标记为 AI 生成；Anthropic 宣布未来 Claude 模型将生成水印文本，称该方法不影响输出质量与内容，不添加隐藏字符、不增加 token 成本，水印本身不含可追溯到个人、组织或对话的信息。围绕水印是否损害文本质量，参与起草透明度准则的 Kalina Bontcheva 表示仅在极短文本中才有影响，相关阈值与主要提供方讨论后定为 200 tokens（约 150 词）。
2026 年 8 月 2 日，欧盟 AI 法案第 50 条与加州 AI 透明度法案同日生效，要求生成式 AI 提供商和相机厂商为内容附加机器可读的溯源元数据。文章介绍内容溯源的三类元数据（来源、保管链、修改历史）以及业界趋同的 C2PA 标准，Anthropic、Google、OpenAI 均表示将采用 C2PA。加州法律还要求月活超百万的生成式 AI 提供商提供免费的溯源查询工具，2027 年起大型平台不得剥离合规溯源数据，2028 年起智能手机、相机、录音笔等设备须默认生成溯源记录。
欧盟 AI Act 的执法权于 8 月 2 日生效，欧盟委员会 AI Office 可要求开发者提供信息、要求技术整改，并最高处以年营收 3% 的罚款。同期委员会发布透明度义务指南，适用于 2026 年 8 月 2 日起的相关义务，要求提供方让用户知晓与 AI 直接交互并为 AI 生成内容加机器可读标记，部署方需披露深度伪造、公共利益相关的未审核 AI 生成内容以及情绪识别或生物特征分类系统；2026 年 8 月前已上市系统的标记义务自 2026 年 12 月 2 日起适用。
IAPS 发布关于《远程访问安全法案》（RASA）的政策简报，评估该立法应如何界定范围，并建议参议院文本 S. 3519 扩大对云基础设施的定义。简报指出，美国出口管制限制向中国出售先进 AI 芯片，但未明确覆盖通过云远程租用的同等算力，RASA 将补上 BIS 在这一权限上的缺口。参议院文本目前仅把云基础设施服务定义为 IaaS，只覆盖租用裸金属算力训练模型的实体，却不覆盖同一实体在托管平台服务上训练的情形，IAPS 建议至少纳入有明确边界的 PaaS 定义。简报还提示，若 RASA 像已通过的众议院文本 H.R. 2683 那样延伸到 SaaS，可能赋予 BIS 对访问美国 AI 模型的管制权限；文中提到商务部致 Anthropic 的信函要求 Mythos 5 与 Fable 5 模型出口需许可，但未建立模型专属 ECCN，也未明确是否覆盖通过 SaaS 远程访问模型。
欧盟委员会正推动从 2026 年 8 月 2 日起执行《EU AI Act》中针对具有系统性风险的通用人工智能模型的规则，并收到一批研究者与公民社会组织的公开信施压。信中援引 Anthropic 的 Mythos 模型存在广泛报道的网络攻击能力和生物学及失控风险逼近临界阈值的证据，要求赋予 AI Office 的评估员网络开展外部评估的权力并提供足够资源和政治支持。同期理事会通过 Omnibus VII 简化方案，将高风险系统适用日期推迟至 2027 年 12 月 2 日（嵌入式产品为 2028 年 8 月 2 日）。
美国政府在 6 月 30 日解除对 Anthropic Fable 5 的限制，该模型于 7 月 1 日重新向全球用户部署，此前限制源于一项已修复的网络安全越狱。
特朗普政府于 6 月 12 日发布命令，要求 Anthropic 暂停向非美国公民提供其两款最先进模型 Fable 5 和 Mythos 5，引发欧洲政界与产业界对 AI 主权的呼声。作者认为，短期内欧洲损失有限，因为管制可能被恢复，且 GPT 5.5 与仅落后数月的开源模型仍可用，多数任务并不需要最强模型。长期看，前沿模型访问是网络安全防御与经济竞争力的前提，被排除在外与自主选择采用 AI 有本质区别。文章建议欧洲扩大算力与能源基础设施、与英国、印度、日本等中等强国协调评测与采购、投资本土能力，同时深化与需要欧洲市场的美国 AI 公司合作。
Anthropic 于 6 月 9 日发布 Claude Fable 5，该模型在 Humanity's Last Exam 上得分 53.3%，高于 Claude Opus 4.8 的 45.7%。
推荐理由梳理美国政府首次以出口管制指令限制某模型访问的经过，以及 Anthropic 对暂停前沿开发的公开立场。
Anthropic 在博客文章中警告递归自我改进可能带来重大社会风险，并呼吁企业考虑放缓或暂停开发。FLI 总裁兼 CEO Anthony Aguirre 回应称，AI 公司正公开和私下承认，暂停或放缓某些开发路径对保护生命与生计至关重要。2023 年 3 月 FLI 曾发布类似暂停呼吁的公开信，由 Elon Musk、Yoshua Bengio 等签署，但未被采纳。
FAR.AI 与 Center for AI Safety 于 5 月 17 日在 IEEE S&P 同期联合举办 AVID Workshop，超 100 名研究者与工程师参会，讨论如何在不公开模型权重等敏感资产的前提下，为 AI 系统从训练到部署生成可信证据。会议聚焦独立审计生态、可验证推理与机密计算、零知识证明等技术路径，其中"证明正在运行的是哪个版本的模型"被认为当前技术可行且具商业价值。Anthropic 曾承诺开发可证明推理原型，对模型输出进行可归因于特定权重的"签名"。
美中领导人在北京会晤讨论 AI 安全问题，特朗普称双方谈及可能合作建立护栏，中国外交部随后确认同意与美国开展对话。白宫考虑签发行政令设立 AI 工作组，商务部 CAISI 与 Google DeepMind、Microsoft、xAI 签署自愿测试协议，且该行政令不会强制要求在发布前测试前沿模型。《纽约时报》报道称政府此前的放任立场因 Claude Mythos 加速复杂网络攻击的能力以及 ChatGPT-5.5-Cyber 展现类似能力而发生转变。
欧盟 AI Act 通讯第 102 期汇总了欧盟 AI 立法与治理的最新进展。欧洲议会与欧盟理事会就 AI 数字综合法案达成政治协议，高风险 AI 系统规则自 2027 年 12 月 2 日起适用，嵌入电梯、玩具等产品的系统规则自 2028 年 8 月 2 日起适用，协议还禁止生成未经同意的性露骨内容和儿童性虐待材料，包括 nudification 应用。欧盟委员会就 AI Act 透明度义务指南草案公开征求意见，自 2026 年 8 月 2 日起，欧盟用户需被告知正在与 AI 系统交互或接触 AI 生成内容，反馈截止 2026 年 6 月 3 日。
Google DeepMind 英国员工本周投票决定成立工会，这是前沿 AI 公司首次出现工会化。据《卫报》报道，员工的主要动因包括 Google 即将与美国国防部达成协议，以及公司此前向以色列军方提供 AI 工具访问权限。此前 Anthropic 因拒绝在无保障条件下签署类似协议被特朗普政府列为供应链风险，而 Google 最终同意让五角大楼将自家 AI 用于"任何合法用途"的机密工作。
针对纽约时报报道白宫正考虑再发行政令、设立可监督强大 AI 系统部署前测试的“AI 工作组”，Future of Life Institute 总裁兼 CEO Anthony Aguirre 发表声明称这一设想令人鼓舞。他认为先进 AI 系统已不只是商业产品，其风险也不再是假设，不应由单一公司自行决定是否发布可能危害国家安全或经济的产品。他主张由公正专家主导的全政府工作组来确定发布前评估与护栏要求，并称航空、制药、核电等领域都采用类似监管方式。声明还提到白宫在 AI 网络安全能力威胁金融系统后曾表态支持“kill switch”，以及参议员 Blackburn 提出的联邦 AI 立法提案获得跨意识形态支持。
欧盟立法者未能就推迟《人工智能法案》高风险条款达成协议，机械与医疗器械合规路径争议导致谈判无果且未定重启日期。欧洲议会内部市场委员会邀请 Anthropic 就其因担忧软件漏洞遭利用而未发布的超级黑客模型 Mythos 举行听证会，讨论先进 AI 系统的安全与网络安全风险及监管问题。Anthropic 还向欧委会通报了该模型的网络能力与技术风险细节，并签署了针对最复杂先进模型的欧盟最佳实践准则。