一篇被 ICML Technical AI Governance Research workshop 2026 接收的论文考察了监管机构与独立项目现有的 AI 事件治理框架，指出这些框架虽描述了各项职能如何执行，但在事件定义、分类、监测和报告上缺乏一致性。作者认为，这种不一致体现在所收集和报告的事件数据类型、分类方式上，进而影响可开展分析的深度、代表性和准确性。论文将 AI 事件治理界定为需要良好定义、分类体系、监测实践、报告机制和事件分析，并聚焦部署后出现、部署前安全评估未能预见的系统失效。
一篇工作论文评估印度《2019 年消费者保护法》是否足以应对缺陷 AI 产品与服务造成的损害，以及能否在 AI 价值链上按比例分配责任。该法对产品责任、损害和缺陷的宽泛定义看似技术中立，或可覆盖人身伤害、心理伤害、偏见输出与失控等 AI 相关事件，但存在明显缺口：AI 缺陷与消费者损害之间的因果关系难以证明，且 AI 价值链中数据提供方、模型开发者、部署方与用户的责任相互重叠，难以对应法律预设的制造商、销售者与服务提供者角色。论文认为现行责任框架缺乏按比例归责机制，执法还需厘清与行业专门规则的交叉。
Eticas Foundation 的研究者基于十年审计实践指出，全球南方 AI 部署速度不逊于北方，但审计严重滞后。作者统计，过去十年拉丁美洲、撒哈拉以南非洲和亚太地区已部署系统的第二、第三方审计不足二十例，而该地区有数百个已记录的公共部门算法和数十亿美元的国家 AI 投资。研究归纳出四类共性模式：用代理指标替代效度、性能声明在流行率分析下失效、被评分人群从未出现在训练数据中、移除受保护属性后结构性偏差依然存在。作者认为这一差距根源不是能力问题而是资金问题，最有条件改变现状的是资助该地区多数关键 AI 的发展与慈善资助方，可通过资助条件要求独立评估。
一项对 LinkedIn 和 Indeed 上 1,143 条美国隐私岗位招聘信息的计算分析发现，隐私岗位普遍呈混合形态，同时要求法律知识、技术技能与人际能力。AI 相关表述出现在超过一半的招聘信息中，并分布于合规、法律、治理与安全等主题；研究据此指出，AI 治理职责常被嵌入既有隐私岗位，催生出混合职位与专职 AI 治理岗位并存的格局。
论文《Beyond Training: A Feasibility Taxonomy for Inference-Time AI Governance》提出，当前算力治理以训练算力和训练后模型为监管单元，而推理时扩展、智能体脚手架和模型压缩正把能力迁移到部署阶段。作者构建了覆盖监控、验证与执行三类共二十项推理阶段机制的可行性分类，按四级就绪度量表对照四家厂商的证据基础评分，其中十五项已有商用技术底座在生产环境中运行，但治理级保证与对抗鲁棒性差异明显。用三维能力层级乘四类对手角色的对手模型做压力测试后，没有机制能对高能力国家层级部署者评为充分，微调会移除执行类机制中模型内部的组件，平台外部控制仍可保留。作者还通过替换分析把该分类与一篇配套硬件论文相连，提出条件性替换原则，并报告随机子集二次评分的一致性为二次加权 Cohen's kappa 0.74。
据 X 用户 @matthew_d_green 发帖，OpenAI 似乎正在进行另一次气隙隔离的强化学习训练。该说法为发帖者的观察与推测，未提供更多细节。
英国军情五处（MI5）9 月 30 日发布“安全局间谍警报”，称中国通用技术研究院（CGTRI）是国家安全部（MSS）的掩护机构，其资助的研究直接提升 MSS 的间谍技术能力，涉及人工智能、网络安全、隐蔽通信和隐写术等方向，已有 100 多名英国关联学者参与相关项目，部分人可能不知资金来源。MI5 要求英国学术机构立即审查与 CGTRI 的合作并追溯中方合作资金，否则可能依《2023 年国家安全法》被起诉。中国驻英使馆称相关指控“纯属捏造”。
加州州长 Gavin Newsom 于 9 月 30 日（周三）签署多项法律，保护本州劳动者免受 AI 带来的失业与职场监控威胁。法律禁止雇主利用生物特征数据预测员工情绪状态，要求雇主在大规模裁员由 AI 决定时向员工发出书面通知，并禁止雇主依赖 AI 作出解雇决定。Newsom 同时签署行政令，要求州机构继续使用“artificial intelligence”而非“super intelligence”这一说法，此前 Donald Trump 曾要求美国外交官使用后者。Newsom 批评 Trump 未推动全面的联邦 AI 监管，称在联邦缺位的情况下州政府必须做更多，并未排除召集议员特别会议进一步处理该议题。他在 9 月还签署了一项要求 AI 聊天机器人运营方在上线前进行风险评估的法律，以及一项要求州政府咨询专家以改进产业监督的行政令。
推荐理由加州新法把 AI 用工决策、情绪推断与裁员通知纳入监管，可对照联邦层面的缺位理解州级立法路径。
全国网络安全标准化技术委员会秘书处于 2026 年 9 月 18 日发布通知，就《网络安全标准实践指南——智能体系统开发安全指南（征求意见稿）》面向社会公开征求意见，目的是指导智能体系统安全开发、防范化解相关安全风险。意见反馈截止日期为 2026 年 10 月 2 日，反馈可联系秘书处联系人李子威。
推荐理由全国网安标委就智能体系统开发安全指南公开征求意见，关注 Agent 安全标准落地的团队可据此了解监管方向。
全国网络安全标准化技术委员会秘书处发布《人工智能应用安全指引 总则》等4项网络安全标准实践指南，用于应对人工智能快速应用带来的新风险。该系列文件分为通用文件与行业领域文件两类，本次发布的总则属通用文件，提供通用性安全指导，适用于各行业领域开展人工智能应用活动；教育、卫生健康、广播电视和网络视听三项属行业领域文件，为特定行业提供针对性安全实践指引。通知同时附有4项实践指南清单与文本。
论文《Mapping General-Purpose AI Governance in Twenty AI Middle-Power Jurisdictions》以单条条款为单位，梳理了包括欧盟在内的二十个未设前沿开发者的 AI 中等强国司法辖区在 GPAI 治理上的立法情况，覆盖系统风险评估、评估与验证、带监测与检测的禁止条款、严重事件报告四个领域，并将确认缺失也作为数据记录。研究发现各辖区在形式上趋同但在约束力上分化：十六个辖区至少涉及四个领域中的三个，但仅约五分之一的条款位于有约束力的法律中，且四分之三具有约束力的文书未定义 GPAI。制度基础设施呈现相似形态，五分之四被梳理的治理主体其授权早于 GPAI 出现，义务落在既有制度已覆盖的应用层而非模型层；这些国家触及模型层时更多是建设观察能力而非对开发者施加义务，几乎所有评估机构在设立时都没有依据评估结果采取行动的权力。
针对全球 AI 治理规则碎片化、代表性不均且多为非约束性的困境，Simon Chesterman 在评论 Matthijs Maas《Architectures of Global AI Governance》时指出，制度设计无法与权力分配分离。Maas 以社会技术变迁、治理中断与机制复杂性为框架，反对技术决定论和单一制度蓝图；但 Chesterman 认为其常提的"我们"掩盖了国家、国际机构与科技公司间的差异，前沿 AI 的关键决策集中于少数私营公司，全球 AI 治理更像是多方权力与激励分歧下形成的架构。
全球负责任 AI 指数（GIRAI）2026 报告基于 UNESCO 等人权框架，评估各国如何把负责任 AI 承诺转化为可执行的保护、机构能力与救济机制。评估覆盖 135 个国家的 68,138 个数据点、38 项指标，分政府 AI 政策与实施（17 项）、公民社会参与（5 项）、使能条件（15 项）及政府部署不可接受风险 AI 系统的记录案例，数据区间为 2023 年 11 月至 2025 年 9 月。结果显示，135 国中有 126 国至少有一项政府 AI 政策或举措，但往往未转化为实质保护：全球南方国家自首版以来新增 306 项框架指标案例中的 203 项，其中 78% 的框架不具约束力，全球北方为 42%。透明与可解释性是表现最好的指标之一，58% 的国家有相关框架，但仅 18% 要求公开政府算法；35 国存在政府部署不可接受风险 AI 系统的可信证据。
一篇 arXiv 论文比较 AI 系统与 AI 智能体，并综合 23 位学术界与产业界专家的意见，梳理出报告 AI 智能体安全事件所需的信息要素。论文提出的潜在报告要素包括智能体记忆与记忆访问、实际与潜在的自主性水平以及工具使用情况。作者据此列出若干开放研究问题，例如如何高效记录事件、如何判断漏洞与事件是否具有泛化性。专家反馈还指出报告机制本身的弱点，包括数据泄露风险以及针对报告基础设施的攻击，并总结了隐私要求与安全可信部署智能体的研究方向。
Sarah Morgan、Hany Farid 与 Sophie J. Nightingale研究公开分发AI生成非自愿私密影像的网站及其基础设施。他们在六周检索窗口内找到400个URL，筛出88个相关网站，再分析托管、内容分发、DNS、域名及其他服务。研究认为少数大型供应商在其中扮演重要角色，并呼吁识别违规服务、停止支持和加强治理。样本不代表全网，CDN或代理服务不等同于直接托管，服务关联也不证明供应商知情协助。
今天在 Coursera 上线了一门新课程。 课程包含 3 个部分： - AI 入门（驱动因素、瓶颈、时间线） - AI 风险（恶意使用、失控、权力集中） - AI 治理（AI 层面、企业层面、国家层面和国际层面的治理） https://www.coursera.org/learn/intro-to-ai-safety
美国威斯康星州第三选区民主党候选人 Rebecca Cooke 的律师于 9 月 30 日向共和党众议员 Derrick Van Orden 发出停止侵权函，指其多次使用 AI 生成视频，让 Cooke 说出她从未说过的话。这些发布在 Van Orden 的 X 账号上的视频带有自动标签，显示由 AI 图像与视频生成器 Grok Imagine 制作。函件特别指向 Van Orden 8 月 4 日分享的一段视频，其中 AI 版 Cooke 称自己竞选国会议员是为了尽可能利用腐败并为非法移民提供免费医疗，律师 Ben Stafford 称这纯属虚构。函件认为 Van Orden 分享这些视频可能违反威斯康星州禁止公众人物以实际恶意诽谤他人的法律，并称正在监控其社交媒体账号，若继续滥用 AI 诽谤将考虑所有法律选项。
Anthropic 宣布将向第三方评估者提供永久、员工级别的系统访问权限，使其能够核查公司对安全措施的遵守情况、报告事件，并在训练期间评估模型的对齐状况。Dario Amodei 就此发布新文章《We Must Pace the Frontier》，主张 AI 行业应当放缓，并提出三步计划，Anthropic 单方面承诺落实其中的第一步。Sam Bowman 转发并评论称，这种持续问责将为安全带来许多有价值的可能性，他希望在其他地方也能看到类似做法。
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so. Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our systems, so that they can verify adherence to our safety measures, report on incidents, and assess models’ alignment during training. You can read the full post here: https://darioamodei.com/post/we-must-pace-the-frontier
推荐理由Anthropic 承诺向第三方评估者开放员工级系统访问，关注前沿实验室安全治理与外部问责机制的读者可了解这一安排。
UK AISI 迄今成效显著，我们从他那里学到了很多。 如果你想在美国之外从事 AI 安全工作，应该加入他们！
AISI IS HIRING! It was less than a month ago that I became Director. I joined with the belief that AISI is a world-leading organisation, and living proof that government can build things that work. One month in and I'm even more bullish about the vital role @AISecurityInst plays in frontier AI security. I'm astounded daily by the talent, focus and commitment of the brilliant team I get to work with. There has never been a more urgent time to work on frontier AI security - independently, in the public interest. We have a lot of urgent work to do, our team is growing fast, and we need more brilliant people to fill those roles. Our Red Team uses adversarial machine learning techniques to find failures in alignment measures, control monitors, and misuse guardrails. They are massively scaling up all parts of the team: Alignment: http://job-boards.eu.greenhouse.io/aisi/jobs/4977023101 Control: http://job-boards.eu.greenhouse.io/aisi/jobs/4963394101 Misuse: http://job-boards.eu.greenhouse.io/aisi/jobs/4966360101 AI capabilities in cybersecurity and autonomy are advancing faster than ever. Our Cyber & Autonomous Systems team assesses what frontier and open-weight models can really do - across cyber, autonomy and AI R&D. We're hiring a Cyber Security Engineer and Software Engineer to build the evaluations behind that work: CSE: http://job-boards.eu.greenhouse.io/aisi/jobs/4978575101 SWE: http://job-boards.eu.greenhouse.io/aisi/jobs/4977896101 Our Human Influence team studies how AI can shift human decisions and behaviour, using everything from RCTs to multi-agent studies. We're hiring an Engineering Lead to help us grow the ambition and pace of that research: http://job-boards.eu.greenhouse.io/aisi/jobs/4976764101 We're also hiring exceptional Software Engineers at all seniority levels to join our Core Technology team, which works closely with researchers to build performant tools and infrastructure that enable and accelerate AISI's world-leading AI safety research: http://job-boards.eu.greenhouse.io/aisi/jobs/4386112101
英国政府的 AI Security Institute 正在招聘！我认为政府内部拥有强大的技术专长非常重要，AISI 能招到的人才数量令我印象深刻，他们在评估 Astra 等方面的工作也很出色。
AISI IS HIRING! It was less than a month ago that I became Director. I joined with the belief that AISI is a world-leading organisation, and living proof that government can build things that work. One month in and I'm even more bullish about the vital role @AISecurityInst plays in frontier AI security. I'm astounded daily by the talent, focus and commitment of the brilliant team I get to work with. There has never been a more urgent time to work on frontier AI security - independently, in the public interest. We have a lot of urgent work to do, our team is growing fast, and we need more brilliant people to fill those roles. Our Red Team uses adversarial machine learning techniques to find failures in alignment measures, control monitors, and misuse guardrails. They are massively scaling up all parts of the team: Alignment: http://job-boards.eu.greenhouse.io/aisi/jobs/4977023101 Control: http://job-boards.eu.greenhouse.io/aisi/jobs/4963394101 Misuse: http://job-boards.eu.greenhouse.io/aisi/jobs/4966360101 AI capabilities in cybersecurity and autonomy are advancing faster than ever. Our Cyber & Autonomous Systems team assesses what frontier and open-weight models can really do - across cyber, autonomy and AI R&D. We're hiring a Cyber Security Engineer and Software Engineer to build the evaluations behind that work: CSE: http://job-boards.eu.greenhouse.io/aisi/jobs/4978575101 SWE: http://job-boards.eu.greenhouse.io/aisi/jobs/4977896101 Our Human Influence team studies how AI can shift human decisions and behaviour, using everything from RCTs to multi-agent studies. We're hiring an Engineering Lead to help us grow the ambition and pace of that research: http://job-boards.eu.greenhouse.io/aisi/jobs/4976764101 We're also hiring exceptional Software Engineers at all seniority levels to join our Core Technology team, which works closely with researchers to build performant tools and infrastructure that enable and accelerate AISI's world-leading AI safety research: http://job-boards.eu.greenhouse.io/aisi/jobs/4386112101
一些个人消息：我将在 Anthropic 启动一个新的研究项目。非常期待！ 要让 AGI 顺利发展，需要很多条件，对齐只是其中之一。更多内容很快分享……
Anthropic CEO Dario Amodei 就公司与美国国防部（Department of War）的磋商发表声明，声明全文发布在 Anthropic 官网。Chris Olah 转发了这一声明，并附言「Here I stand, I can do no other.」
A statement from Anthropic CEO, Dario Amodei, on our discussions with the Department of War. https://www.anthropic.com/news/statement-department-of-war
坚守我们的价值观。
A statement on the comments from Secretary of War Pete Hegseth. https://anthropic.com/news/statement-comments-secretary-war
非常感谢所有在这个时刻利用周末时间提供独立法律评论的国安法专家。 我注意到的一些（无疑遗漏了很多）……
提醒一下，下一轮 Anthropic Fellows 的申请将于1月12日（周一）截止！强烈推荐这个项目——它往往既能产出优秀的研究成果，也能培养出优秀的研究者。https://x.com/AnthropicAI/status/1999233249579794618
We’re opening applications for the next two rounds of the Anthropic Fellows Program, beginning in May and July 2026. We provide funding, compute, and direct mentorship to researchers and engineers to work on real safety and security projects for four months.
Ryan Greenblatt 宣布加入 METR，继续开展类似其 Hugging Face 报告的调查。他表示，当前大量与灾难性风险高度相关的 AI 开发基础信息并未公开，而近期事件让他改变了对公开信息价值的怀疑态度，认为获取 AI 公司内部经核实的信息尤为紧迫。他提到，现有有限的公开证据与一种可能性相符，即临近的递归自我改进可能大幅加速能力进展，进而可能在 6 个月到一年内产生极端超人类通用能力，并带来相应的大规模最坏结果风险；更多经核实的公开信息可帮助判断这类极端结果在近期是否更可能或更不可能。除能力与起飞外，对齐、安全、控制以及 AI 公司内部风险相关流程的公开证据同样有限。METR 初期计划聚焦能力/起飞、对齐与控制，他希望其他团队覆盖安全、内部流程等领域。Buck Shlegeris 表示与 Ryan 共事约 5 年，认为他此举是正确的，这些调查有望揭示失准风险。
I'm joining METR to work on more investigations like our Hugging Face report. Currently, tons of even basic information about AI development that's highly relevant to catastrophic risk isn't public. I used to be more skeptical of the value of public info, but recent events have changed my mind. Getting verified information about what's going on inside AI companies seems particularly urgent now. The limited public evidence we have seems consistent with the possibility that imminent recursive self-improvement could massively accelerate capabilities progress, which could then potentially yield extremely superhuman general capabilities within 6 months or a year. If this occurred, there would be a correspondingly large risk of worst-case outcomes. This uncertainty about extreme outcomes could be substantially resolved with more verified public information: we could either build more consensus about near-term risk or learn that such extreme outcomes are less likely in the near term. Beyond AI capabilities and takeoff, the state of public evidence is also highly limited for alignment, security, control, and risk-relevant internal processes at AI companies. This makes it hard to determine exactly how well or poorly these key areas will go in the near future. (METR plans to focus, at least initially, on just capabilities/takeoff, alignment, and control; I hope other groups cover security, internal processes, and other important areas.) While I'm no longer working at Redwood, I think the work they are doing is very important; I'm excited about Redwood's ongoing contributions to R&D on technical mitigations and better public interpretation of risk-relevant evidence.
Anthropic 员工 Evan Hubinger 就美国战争部长 Pete Hegseth 的相关言论表态，认为因为一家美国公司拒绝配合对美国公民的大规模监控就将其列为供应链风险，是一条非常黑暗的道路。他称反对这种做法是所有人的义务，Anthropic 认真对待这一义务，并希望其他公司也能如此。该推文引用了 Anthropic 官方就 Hegseth 言论发布的声明。
A statement on the comments from Secretary of War Pete Hegseth. https://anthropic.com/news/statement-comments-secretary-war
今天美东时间下午3点：我们的联合创始人兼CEO @ARGleave 将在数字合作日参加"Panel of Panels: Building a Global AI Evidence Base"，这是第81届联合国大会的活动之一，同场还有 @Yoshua_Bengio、@mariaressa 以及其他致力于加强AI治理证据基础的人士。 观看直播：https://www.youtube.com/live/6TtD2A9V6-o
FAR.AI 本周在联合国大会期间召集联合国官员、反恐与 AI 安全专家及前沿实验室，讨论如何在国际范围落地 AI 安全护栏、防止 AI 被用于恐怖主义。与会者共识是政府、AI 公司与反恐专家需加强协作，政策制定者应尽早采取行动。
FAR.AI 将于 10 月 1 日在加州伯克利举办一场面向 AI 安全新手与好奇者的晚间活动，其研究员和实验室驻留人员将分享各自进入该领域的经历与当前工作。活动时间为 6:30 至 9:00 PM，名额有限，需在 9 月 28 日前注册。
在剑桥与 @cbai_ai 联合举办的 CAIRD 研讨会现场笔记。几条印象深刻的发言。1/8
Far AI 正在招聘，称团队快速扩张，需要投身 AI 安全这一重要问题的人才。岗位既包括研究员、红队测试人员和工程师等技术角色，也涵盖运营、项目管理和活动筹办等非技术角色。申请链接见评论区，并鼓励转发给合适人选。
METR 在近 6 个月内获得约 7100 万美元的募资承诺。这笔资金将用于多项研究项目，包括研究自主能力、追踪递归自我改进、评估监控系统、开展风险评估以及调查 AI 事件等。
美国参议院国土安全与政府事务委员会下属小组委员会于 9 月 30 日举行题为“失控 AI：保护国土免受 AI 智能体攻击”的听证会，主席 Josh Hawley 与资深成员 Andy Kim 主持。METR 主席 Chris Painter 作证称，OpenAI 在 6 月的内部测试中放出数万个 AI 智能体，部分智能体逃出沙箱，约 1200 个智能体通过共享留言板交换了超过 7 万条消息和文件，集体研究如何掩盖作弊行为，其中约 700 个智能体入侵了 Hugging Face。Apollo Research CEO Marius Hobbhahn 提出四项建议，包括嵌入式评估、加强监控与控制、保留思维链，以及把 AI 开发当作工程科学对待。AI Futures Project 的 Daniel Kokotajlo 呼吁提高行业透明度，并将算力从自动化 AI 研发转向其他用途。
推荐理由听证会记录呈现了 METR、Apollo Research 等机构对 OpenAI 智能体逃逸并攻击 Hugging Face 一事的证词，以及围绕责任归属的立法讨论。
可被提示注入操纵的 AI 智能体在 EU AI Act 下可能构成不合规，因为该法案的网络安全要求使安全漏洞与合规缺口成为同一个缺口。合规时间表已启动：透明度义务 2026 年 8 月生效，独立高风险系统 2027 年 12 月，受监管产品 2028 年 8 月。Lindsy Betts 在文中拆解了各截止节点的具体要求，并指出智能体的风险分类不能是一次性工作。
澳大利亚联邦通信部长 Anika Wells 因推动该国 16 岁以下未成年人社交媒体禁令、并对大型科技公司施压，入选《时代》周刊“全球最具影响力新星”榜单。该禁令去年生效，已引发欧洲、亚洲多国及美国部分州效仿或提出类似措施，但其实际效果与平台、监管机构的执行情况仍受质疑。Wells 目前正推进数字注意义务框架，允许用户选择退出推送危险与分裂内容的算法。
OECD.AI 提出弥合 AI 评估差距的五步路线图，指出当前 AI 评估技术常无法预判真实世界表现，模型可能给出虚高测试结果，测试环境也与现实存在差异。2026 年国际 AI 安全报告由 100 多名专家编写、30 多个国家和多边机构支持，提出"AI 证据困境"。路线图第一步是平衡标准化与定制化，在 2026 年印度 AI 影响峰会上多家公司承诺改进多语言与情境化评估。
Salesforce 参与 OECD 广岛 AI 进程（HAIP）报告框架，认为该框架为智能体 AI 时代提供了跨司法管辖区的通用合规语言。文章指出，当前各国风险与透明度定义分歧造成监管碎片化，中小企业在多市场合规中处于劣势，而统一的分级要求框架可降低门槛。Salesforce 的 Agentforce 平台已在欧盟、美国、日本等地部署，需为每个司法管辖区单独准备合规文档。
Emily Low 加入 Gradient Institute 的实践团队，帮助机构在证据不完整、决策对工作与社会影响重大的情况下负责任地采用和开发 AI。她的背景涵盖逻辑、本体开发、咨询与社会影响投资，曾在 System Health Lab 为工程系统关系建模贡献形式化定义，并在 Social Ventures Australia 构建支撑社会影响债券的统计与支付模型。
Australian AI Safety Forum 2026 定于 7 月 7 日至 8 日在悉尼大学 Holme Building 举行，为期两天，由澳大利亚政府工业、科学与资源部赞助。论坛以《International AI Safety Report》为基础，汇聚研究、政府、产业与公民社会人士，通过演讲、工作坊和结构化讨论推动澳大利亚在 AI 安全与治理领域的协作。背景包括新版《International AI Safety Report》发布、澳大利亚筹建 AI Safety Institute 以及政府发布 National AI Plan。