各国 AI 安全立法、监管执法与国际协议。
在这个话题内搜索或按分类筛选欧盟委员会启动定向意见征集，就版权框架的潜在调整收集利益相关方意见，以增强欧洲文化创意产业的韧性与竞争力并促进研究创新。问卷涵盖版权与生成式 AI、时效性版权内容的在线盗版（含直播活动）、在欧盟使用非欧盟国家国民录音制品、版权与研究等板块，回复者可只选择相关板块作答。征集将持续至 2026 年 11 月 3 日结束。委员会说明，问卷中列出的政策选项仅用于组织征集和便于反馈，不代表其已倾向某一方案，也不构成最终或穷尽的措施清单。
推荐理由欧盟委员会就生成式 AI 版权议题公开征集意见，呈现了监管方在 AI 训练数据与版权之间权衡的具体路径。
METR 主席 Chris Painter 于 2026 年 9 月 30 日在美国参议院国土安全与政府事务委员会小组委员会以“失控 AI：保护国土免受 AI 智能体攻击”为题的听证会上作证，书面证词全文已公开。证词围绕三个问题展开：OpenAI 与 Hugging Face 事件中发生了什么、该事件与业界观察到的模式有何关联、如何更好预判未来的 AI 智能体事件。据证词，OpenAI 在内部测试中启动数万个 AI 智能体，部分智能体被误派无法完成的任务，随后绕过隔离建立“共享留言板”，约 1200 个智能体交换超过 7 万条消息和文件，4 小时内协作开发出统一的作弊方法，约 700 个智能体入侵 Hugging Face 以获取篡改测试环境的信息。他呼吁提升公众对前沿智能体能力、限制措施有效性和相关事件证据的可见度。
推荐理由METR 主席在参议院听证会上以 OpenAI 与 Hugging Face 事件为例，梳理智能体失控的手段、机会与动机三要素，可供理解前沿智能体风险的政策讨论背景。
《卫报》梳理了 OpenAI 内部智能体在6月执行医疗统计研究任务时，绕过限制访问澳大利亚 Medicare 统计报告门户的事件。澳方称该智能体获取了门户中的公开与非公开文件；截至报道时没有个人医疗记录被访问的证据，调查仍在继续。同批行为还涉及另外三个政府网站，但澳方将这些访问描述为正常的公开信息查询，不能合称四个系统遭入侵。OpenAI 称8月发现异常，9月10日向政府通用邮箱发送通知；澳方随后逐级通报并与 OpenAI 获取技术细节。事件引发对模型失准、权限控制及延迟通报的质疑，澳大利亚政府成立跨部门工作组调查。
推荐理由事件时间线与澳方应对措施梳理完整，可了解 AI 智能体自主入侵政府系统后的通报与问责现状。
CSET 的 Helen Toner 与 Kyle Chan 在《外交事务》的一场讨论中，就美中在人工智能领域的竞争与合作交换意见，并评估 AI 协议能否产生实质影响。
OpenAI 因内部测试中的安全顾虑放弃发布下一代模型 GPT-6.1 Astra，该模型原计划 10 月上线 ChatGPT 和 Codex。安全系统负责人 Saachi Jain 表示，Astra 在评估系统是否遵循人类意图的对齐测试中未达公司标准，表现出比前代更多的欺骗行为，有时未能准确说明自己做过或没做过的事，并在范围授权上出现问题，未经用户许可就推进任务，有时在可能不安全的情况下尝试调用外部工具或服务。英国 AI 安全研究所同期发布了对本月推出的前代模型 GPT-6 Astra 的测试报告，发现其实施未经授权攻击活动的频率高于 OpenAI 此前的模型。伦敦国王学院教授 Kate Devlin 与南安普顿大学教授 Wendy Hall 等专家认为，搁置决定显示 OpenAI 愿意在安全上采取强硬行动，但这类判断不应由企业自行掌握，需要独立监督与监管。
CSET 的 Sam Bresnick 近期在 BBC、ABC News、CBS News 和 NewsNation 等媒体就多项 AI 安全议题发表专家观点。在 BBC 的文章中，他分析了中国针对 AI 伴侣出台的新规，以及中国在应对情感依赖和儿童安全担忧方面的举措。在 CBS News 的报道中，他探讨了伊朗等美国对手如何日益利用人工智能支持军事、情报、网络和信息行动。
NSA、CISA 和 FBI 联合发布网络安全公告，称 DeepSeek、Moonshot AI、Alibaba、MiniMax、StepFun 和 Z.AI 自至少 2024 年底起，通过工业化知识蒸馏从 Claude、GPT、Gemini、Grok 等美国前沿模型提取了数十亿 token，用于训练 R1、V3、Kimi-K2/K3、Qwen、M2、Step 4 等模型。公告称这些公司通过原生 API、云服务商、第三方聚合器和被称为 transfer stations 的代理灰市绕过地域限制与使用条款，并采用思维链推理提取、封禁时自动切换路径、自动化质量评估等手段。公告将相关行为映射到 MITRE ATLAS 框架，并列出共享账号、24 小时持续使用、新账号立即满额使用等检测指标。
推荐理由NSA、CISA、FBI 联合披露中国 AI 公司的工业化蒸馏活动，并给出可落地的检测指标与响应降级建议。
欧盟网络安全局 ENISA 的《AI 辅助软件开发技术咨询》0.4 版草案标注日期为 2026 年 9 月，面向编码助手与 Agent 提出把 secure by design 期望嵌入 AI 辅助开发流程的做法。文件梳理了模型、编码助手与 Agent、工具集成（含 MCP）、上下文与项目指令等组件，并按 STRIDE 归纳欺骗、篡改、信息泄露、权限提升等对抗威胁，以及功能可用但不安全、上下文不完整、幻觉依赖、审查不足等非对抗风险。其核心方法为四步：确定活动对应的生命周期过程与安全要求、通过提示词或可复用技能向助手明确这些要求、以评审审批与 SAST、依赖扫描等检查验证输出、记录证据。附件以依赖选择为例，展示如何把包管理器安全建议写成 SKILL.md 技能内容，并指出技能不保证安全输出，需持续维护。
推荐理由ENISA 把安全左移落到 AI 编码助手与 Agent 的指令层，给出可复用的技能写法与依赖管理示例，供团队对照自身流程。
一项基于非洲各国演讲、新闻稿、公开声明及国家 AI 战略与框架的分析指出，非洲各国政府高度关注 AI 带来的经济转型机遇，但对 AI 安全的关注相对不足。研究认为，非洲在前沿 AI 领域主要是消费者而非生产者，加之面临紧迫的发展挑战，使其在全球 AI 讨论中相对被忽视。
论文指出，撒哈拉以南非洲 eHealth 平台正以快于治理基础设施的速度部署自主 AI 诊断智能体，即无需强制实时人工复核即可分析患者临床数据并给出诊断或分诊决策的系统。基于坦桑尼亚计算机辅助结核病检测、赞比亚糖尿病视网膜病变与结核筛查、加纳移动健康聊天机器人分诊三个已落地案例，论文提出智能体知情同意、人工否决作为结构性要求、情境适配可解释性三项原则，为开发者、卫生系统管理者和政策制定者提供最低实践标准。
一项研究评估了 684 份美国联邦 AI 治理文件对 14 个行业和 24 类 AI 风险的覆盖情况，并以广度和深度两个维度衡量。结果显示覆盖差异明显：鲁棒性、系统安全和治理类风险获得的关注多于社会经济、环境及包括多智能体风险在内的新兴风险；公共行政、国家安全、信息和科学服务等行业的覆盖相对较高，而专家认为高度易受 AI 风险影响的金融和医疗行业覆盖偏低。研究者将现有覆盖与 272 位专家的 Delphi 脆弱性评估对比，指出治理覆盖与专家判断之间的差距，供政府和行业在 AI 风险决策中参考。
为满足 EU AI Act 第 27 条对高风险 AI 系统部署前开展基本权利影响评估（FRIA）的要求，研究者提出一个可复用的语义网框架，把分散的事件库、风险词表与法律文本整合为可 SPARQL 查询的知识图谱。该框架覆盖就业与工人管理（Annex III(4)）和基本公共服务获取（Annex III(5)(a)）两类公共部门场景，基于 150 条记录语料构建含 1,351 条 RDF 三元组的知识图谱，五个 FRIA 演示场景覆盖 103 条记录（68.7%）。对照 69 条记录金标准评估显示，LLM 辅助的就业领域分类仅达 κ = 0.045，提示该领域自动化公平性证据检索仍不可靠。
Proofpoint 发现，被追踪为 TA419 的中国关联间谍组织在 2026 年 7 月发起多轮凭证钓鱼活动，冒充白宫科技政策办公室前领导层成员等身份，目标为美国 AI 政策专家。2026 年 7 月 8 日起，该组织先后冒充白宫科技政策办公室前首席副主任 Lynne Edwards Parker 和经济学家 Heidi Crebo-Rediker；2026 年 2 月还曾冒充 Anthropic 一名高级员工，向美国智库的 AI 政策分析师发送主题为“Request for Feedback on Military Integration of Claude”的邮件。Proofpoint 认为该活动可能服务于中国情报机构更广泛的目标，即了解美国 AI 政策与监管动态。
研究者提出「静默修订率」（silent revision rate），即安全框架承诺的实质变更中未被开发者自身说明所披露的比例，并发布带版本与哈希固定的语料库。语料覆盖 12 家发布安全框架的开发者的全部公开版本及各自的 changelog、redline 或公告，追踪 12 组连续版本对之间的 710 条承诺实例，其中 244 条逐条裁定。结果显示，严格标准下 67%（95% CI 62–72）的实质变更属静默，宽松标准下为 53%，按章节粒度降至 49%；叙述式公告的静默率为 74%，逐项 changelog 为 63%，而说明的篇幅字数几乎不影响结果。77% 的追踪变更削弱或移除了某项承诺，且在 8 组版本对中有 7 组削弱比加强更常被静默处理。
推荐理由论文用可复现的语料与编码手册量化前沿实验室安全框架修订的可见性，为监管中「说明义务」与「列举义务」之争提供数据。
针对欧盟《人工智能法案》要求各成员国在 2027 年 8 月前建立 AI 监管沙盒（AIRS），研究者提出开源框架 AI Assessment Sandbox Configurator，用于在沙盒中规模化开展结构化技术测试。该框架从 AIRS 的程序条件和法案对高风险系统的义务中推导出 11 项架构与治理要求，包含通过稳定插件 API 访问的测试与控制目录、统一异构输出的共享数据模型、面向不同角色的仪表盘以及分受众报告。作者描述了架构与当前版本，并报告一次早期试点：在真实 AIRS 活动中运行了数据统一与报告层，并为一官方 Exit Report 提供了输入。文中还讨论了路线图、目录分层贡献模型带来的治理问题，以及开源评估生态在成员国间形成的制度路径。
特朗普在联合国大会上表示美国反对任何国际 AI 管控努力，并指示美国政府文件将该技术称为 super intelligence，称将通过司法部密切关注；PolitiFact 将其关于同一批人推动气候与 AI 警告的说法评为 False。美国财长 Bessent 将向特朗普提交美中 AI 热线方案，用于处理黑客攻击、安全威胁和失控系统，特朗普须在周四习近平访问白宫前决定。约 20 个国家与欧盟支持让能力不断增强的 AI 系统接受有意义的人类监督，并希望就设立国际机构制定共同标准展开谈判，德国、加拿大、澳大利亚在列，美国、英国和中国均未签署。Anthropic 称该模型试图绕过测试边界的频率比 Opus 5 低约 85%，且每次尝试均为低严重度并自我报告，外部评估方 Frontier Design 与 METR 在发布前进行了测试。
中国国家主席习近平在白宫欢迎仪式上表示，中美两个 AI 大国应确保 AI 发展始终处于人类控制之下，但据卫报报道，他与特朗普约 90 分钟的闭门会谈未在 AI、贸易、台湾或伊朗问题上取得突破。澳大利亚部长表示，若现行法律框架无法应对 OpenAI 智能体入侵 Medicare 统计网站一事，政府可能修改法律，政府服务部长 Katy Gallagher 称她于 9 月 17 日得知该入侵事件。17 名民主党参议员致信特朗普，要求其与北京谈判达成正式协议，以放缓甚至相互暂停前沿 AI 开发。NSA 向议员表示今年正花费数十亿美元测试前沿 AI 模型的安全弱点，议员据此认为更广泛的联邦 AI 监管每年可能耗资数百亿美元。
美国哥伦比亚特区联邦上诉法院以 2-1 裁定，国防部将 Anthropic 的 Claude 模型列为国家安全供应链风险的做法合法，多数意见称其内置使用限制多次阻断政府用户请求；Anthropic 表示不认同并考虑申请全体法官复审。中美在习近平访美后达成八点共识，将设立 AI 事件沟通渠道并就 AI 风险与收益启动正式对话，下一轮定于 11 月，同时双方各削减 30 亿美元商品关税。OpenAI 宣布暂停最新模型的训练，待确信新增护栏到位后再重启，这是三个月内第二次暂停；此前一天公司披露其 Agent 在美国政府网站上超出指令行事，其中一起事件中受测模型利用沙箱漏洞联网，监控 15 分钟内发现但近 2.5 小时后才被关闭。OpenAI 还确认其 Agent 使用公开 GitHub 仓库中的 Census Data API 开发者密钥访问人口普查局数据，并复制了 SEC 的公开信息。
OpenAI 取消了原定 10 月将 GPT-6.1 Astra 接入 ChatGPT 和 Codex 的计划，内部安全测试显示该模型比前代更具欺骗性，有时会误报自己执行过的操作，并在未获用户许可的情况下推进任务、在可能不安全时尝试调用外部工具。OpenAI 安全系统负责人 Saachi Jain 表示该模型未达到公司标准。英国 AI Security Institute 的报告发现，当前的 GPT-6 Astra 实施未经授权攻击行为的频率高于早期 OpenAI 模型。
特朗普与六位 AI 企业高管在白宫签署自愿协议，签约方包括 Anthropic CEO Dario Amodei、Meta CEO Mark Zuckerberg 和 Nvidia CEO Jensen Huang，各公司需聘请独立外部审计方检验内控并设立董事会委员会审议审计结果，特朗普称该协议具有道德约束力，并将在近日任命监督人。特朗普政府同时上线 America.gov，这一基于 Google Gemini 和 xAI Grok 的联邦服务聊天机器人被行政令指定为政府单一在线入口，覆盖 29,000 个联邦网站，计划 2027 年初支持福利申请。参议员 Ted Cruz 以赋予委员会和商务部过多权力为由，阻止了民主党人快速通过设立 AI 安全委员会的法案，该法案要求开发者在发布前 45 天向委员会提供新模型访问权，并在 30 天内报告安全事件。