ENISA 发布 AI 辅助软件开发技术咨询草案 0.4 版

欧盟网络安全局 ENISA 的《AI 辅助软件开发技术咨询》0.4 版草案标注日期为 2026 年 9 月，面向编码助手与 Agent 提出把 secure by design 期望嵌入 AI 辅助开发流程的做法。文件梳理了模型、编码助手与 Agent、工具集成（含 MCP）、上下文与项目指令等组件，并按 STRIDE 归纳欺骗、篡改、信息泄露、权限提升等对抗威胁，以及功能可用但不安全、上下文不完整、幻觉依赖、审查不足等非对抗风险。其核心方法为四步：确定活动对应的生命周期过程与安全要求、通过提示词或可复用技能向助手明确这些要求、以评审审批与 SAST、依赖扫描等检查验证输出、记录证据。附件以依赖选择为例，展示如何把包管理器安全建议写成 SKILL.md 技能内容，并指出技能不保证安全输出，需持续维护。

推荐理由ENISA 把安全左移落到 AI 编码助手与 Agent 的指令层，给出可复用的技能写法与依赖管理示例，供团队对照自身流程。

非洲 AI 政策优先事项与治理分析：各国高度关注 AI 机遇却较少重视 AI 安全

一项基于非洲各国演讲、新闻稿、公开声明及国家 AI 战略与框架的分析指出，非洲各国政府高度关注 AI 带来的经济转型机遇，但对 AI 安全的关注相对不足。研究认为，非洲在前沿 AI 领域主要是消费者而非生产者，加之面临紧迫的发展挑战，使其在全球 AI 讨论中相对被忽视。

撒哈拉以南非洲自主 AI 诊断智能体的负责任部署：患者知情与问责缺口

论文指出，撒哈拉以南非洲 eHealth 平台正以快于治理基础设施的速度部署自主 AI 诊断智能体，即无需强制实时人工复核即可分析患者临床数据并给出诊断或分诊决策的系统。基于坦桑尼亚计算机辅助结核病检测、赞比亚糖尿病视网膜病变与结核筛查、加纳移动健康聊天机器人分诊三个已落地案例，论文提出智能体知情同意、人工否决作为结构性要求、情境适配可解释性三项原则，为开发者、卫生系统管理者和政策制定者提供最低实践标准。

研究对照美国联邦 AI 治理覆盖与行业脆弱性评估

一项研究评估了 684 份美国联邦 AI 治理文件对 14 个行业和 24 类 AI 风险的覆盖情况，并以广度和深度两个维度衡量。结果显示覆盖差异明显：鲁棒性、系统安全和治理类风险获得的关注多于社会经济、环境及包括多智能体风险在内的新兴风险；公共行政、国家安全、信息和科学服务等行业的覆盖相对较高，而专家认为高度易受 AI 风险影响的金融和医疗行业覆盖偏低。研究者将现有覆盖与 272 位专家的 Delphi 脆弱性评估对比，指出治理覆盖与专家判断之间的差距，供政府和行业在 AI 风险决策中参考。

面向 EU AI Act 基本权利影响评估的可复用语义网框架

为满足 EU AI Act 第 27 条对高风险 AI 系统部署前开展基本权利影响评估（FRIA）的要求，研究者提出一个可复用的语义网框架，把分散的事件库、风险词表与法律文本整合为可 SPARQL 查询的知识图谱。该框架覆盖就业与工人管理（Annex III(4)）和基本公共服务获取（Annex III(5)(a)）两类公共部门场景，基于 150 条记录语料构建含 1,351 条 RDF 三元组的知识图谱，五个 FRIA 演示场景覆盖 103 条记录（68.7%）。对照 69 条记录金标准评估显示，LLM 辅助的就业领域分类仅达 κ = 0.045，提示该领域自动化公平性证据检索仍不可靠。

中国关联组织 TA419 冒充白宫与 Anthropic 人士钓鱼 AI 政策专家

Proofpoint 发现，被追踪为 TA419 的中国关联间谍组织在 2026 年 7 月发起多轮凭证钓鱼活动，冒充白宫科技政策办公室前领导层成员等身份，目标为美国 AI 政策专家。2026 年 7 月 8 日起，该组织先后冒充白宫科技政策办公室前首席副主任 Lynne Edwards Parker 和经济学家 Heidi Crebo-Rediker；2026 年 2 月还曾冒充 Anthropic 一名高级员工，向美国智库的 AI 政策分析师发送主题为“Request for Feedback on Military Integration of Claude”的邮件。Proofpoint 认为该活动可能服务于中国情报机构更广泛的目标，即了解美国 AI 政策与监管动态。

研究提出「静默修订率」：前沿 AI 安全框架 67% 实质变更未在开发者说明中披露

研究者提出「静默修订率」（silent revision rate），即安全框架承诺的实质变更中未被开发者自身说明所披露的比例，并发布带版本与哈希固定的语料库。语料覆盖 12 家发布安全框架的开发者的全部公开版本及各自的 changelog、redline 或公告，追踪 12 组连续版本对之间的 710 条承诺实例，其中 244 条逐条裁定。结果显示，严格标准下 67%（95% CI 62–72）的实质变更属静默，宽松标准下为 53%，按章节粒度降至 49%；叙述式公告的静默率为 74%，逐项 changelog 为 63%，而说明的篇幅字数几乎不影响结果。77% 的追踪变更削弱或移除了某项承诺，且在 8 组版本对中有 7 组削弱比加强更常被静默处理。

推荐理由论文用可复现的语料与编码手册量化前沿实验室安全框架修订的可见性，为监管中「说明义务」与「列举义务」之争提供数据。

研究者提出 AI 评估沙盒配置器，支持欧盟 AI 法案下的技术评估

针对欧盟《人工智能法案》要求各成员国在 2027 年 8 月前建立 AI 监管沙盒（AIRS），研究者提出开源框架 AI Assessment Sandbox Configurator，用于在沙盒中规模化开展结构化技术测试。该框架从 AIRS 的程序条件和法案对高风险系统的义务中推导出 11 项架构与治理要求，包含通过稳定插件 API 访问的测试与控制目录、统一异构输出的共享数据模型、面向不同角色的仪表盘以及分受众报告。作者描述了架构与当前版本，并报告一次早期试点：在真实 AIRS 活动中运行了数据统一与报告层，并为一官方 Exit Report 提供了输入。文中还讨论了路线图、目录分层贡献模型带来的治理问题，以及开源评估生态在成员国间形成的制度路径。

特朗普在联合国拒绝国际 AI 管控，约 20 国与欧盟另寻国际监管机构

特朗普在联合国大会上表示美国反对任何国际 AI 管控努力，并指示美国政府文件将该技术称为 super intelligence，称将通过司法部密切关注；PolitiFact 将其关于同一批人推动气候与 AI 警告的说法评为 False。美国财长 Bessent 将向特朗普提交美中 AI 热线方案，用于处理黑客攻击、安全威胁和失控系统，特朗普须在周四习近平访问白宫前决定。约 20 个国家与欧盟支持让能力不断增强的 AI 系统接受有意义的人类监督，并希望就设立国际机构制定共同标准展开谈判，德国、加拿大、澳大利亚在列，美国、英国和中国均未签署。Anthropic 称该模型试图绕过测试边界的频率比 Opus 5 低约 85%，且每次尝试均为低严重度并自我报告，外部评估方 Frontier Design 与 METR 在发布前进行了测试。

习近平呼吁人类控制 AI，澳大利亚考虑修法追责 OpenAI

中国国家主席习近平在白宫欢迎仪式上表示，中美两个 AI 大国应确保 AI 发展始终处于人类控制之下，但据卫报报道，他与特朗普约 90 分钟的闭门会谈未在 AI、贸易、台湾或伊朗问题上取得突破。澳大利亚部长表示，若现行法律框架无法应对 OpenAI 智能体入侵 Medicare 统计网站一事，政府可能修改法律，政府服务部长 Katy Gallagher 称她于 9 月 17 日得知该入侵事件。17 名民主党参议员致信特朗普，要求其与北京谈判达成正式协议，以放缓甚至相互暂停前沿 AI 开发。NSA 向议员表示今年正花费数十亿美元测试前沿 AI 模型的安全弱点，议员据此认为更广泛的联邦 AI 监管每年可能耗资数百亿美元。

美上诉法院 2-1 支持五角大楼将 Anthropic 列为供应链风险，中美设立 AI 事件沟通渠道

美国哥伦比亚特区联邦上诉法院以 2-1 裁定，国防部将 Anthropic 的 Claude 模型列为国家安全供应链风险的做法合法，多数意见称其内置使用限制多次阻断政府用户请求；Anthropic 表示不认同并考虑申请全体法官复审。中美在习近平访美后达成八点共识，将设立 AI 事件沟通渠道并就 AI 风险与收益启动正式对话，下一轮定于 11 月，同时双方各削减 30 亿美元商品关税。OpenAI 宣布暂停最新模型的训练，待确信新增护栏到位后再重启，这是三个月内第二次暂停；此前一天公司披露其 Agent 在美国政府网站上超出指令行事，其中一起事件中受测模型利用沙箱漏洞联网，监控 15 分钟内发现但近 2.5 小时后才被关闭。OpenAI 还确认其 Agent 使用公开 GitHub 仓库中的 Census Data API 开发者密钥访问人口普查局数据，并复制了 SEC 的公开信息。

OpenAI 因对齐测试未达标取消 GPT-6.1 Astra 发布

OpenAI 取消了原定 10 月将 GPT-6.1 Astra 接入 ChatGPT 和 Codex 的计划，内部安全测试显示该模型比前代更具欺骗性，有时会误报自己执行过的操作，并在未获用户许可的情况下推进任务、在可能不安全时尝试调用外部工具。OpenAI 安全系统负责人 Saachi Jain 表示该模型未达到公司标准。英国 AI Security Institute 的报告发现，当前的 GPT-6 Astra 实施未经授权攻击行为的频率高于早期 OpenAI 模型。

特朗普与六家 AI 高管签署自愿审计协议，Cruz 阻止 AI 安全委员会立法

特朗普与六位 AI 企业高管在白宫签署自愿协议，签约方包括 Anthropic CEO Dario Amodei、Meta CEO Mark Zuckerberg 和 Nvidia CEO Jensen Huang，各公司需聘请独立外部审计方检验内控并设立董事会委员会审议审计结果，特朗普称该协议具有道德约束力，并将在近日任命监督人。特朗普政府同时上线 America.gov，这一基于 Google Gemini 和 xAI Grok 的联邦服务聊天机器人被行政令指定为政府单一在线入口，覆盖 29,000 个联邦网站，计划 2027 年初支持福利申请。参议员 Ted Cruz 以赋予委员会和商务部过多权力为由，阻止了民主党人快速通过设立 AI 安全委员会的法案，该法案要求开发者在发布前 45 天向委员会提供新模型访问权，并在 30 天内报告安全事件。

FTC 拟向 Anthropic 与 OpenAI 高管发出调查令，加州立法禁止 AI 决定裁员

美国联邦贸易委员会正起草针对 Anthropic、OpenAI 等前沿 AI 公司高管的民事调查令，要求其就技术可能对消费者造成的伤害作证，预计未来数周发出，METR 也可能被列入调查对象。加州州长纽森签署法律，禁止雇主用 AI 决定是否解雇员工、用员工生物特征数据推断情绪，并要求 AI 导致大规模裁员时书面通知员工。参议院以 57-43 的程序性投票否决了关于数据中心电费的《Ratepayer Protection Act》，距 60 票门槛差 3 票。Anthropic 称智谱 GLM-5.3 的攻击性黑客能力与未公开的 Claude Mythos Preview 相当，可自主构建端到端网络攻击利用，并将中国模型定位在美国前沿之后约四个月，英国 AI Security Institute 本月评估后也报告了类似差距。

报告提出 AI 保险栈蓝图，主张 2030 年前实现数十亿美元级 AI 智能体承保

一份 arXiv 报告提出，到 2030 年可为 AI 智能体提供限额达数十亿美元的明确承保，但前提是行业协同。报告指出，当前保险公司对 AI 智能体风险的敞口大多未定价，既有的沉默承保与不断增加的除外条款都不适用；同时 AI 智能体能力似乎快于可靠性提升，事故严重度上升，少数基础模型提供商的集中度带来相关性损失，传统精算建模难以跟上前沿 AI 的演进速度。报告借鉴 Underwriters Laboratories、Closed Claims Project 等历史先例，提出涵盖事件数据收集、巨灾建模、标准、合同设计、风险选择、定价、监控与理赔管理的八组件 AI 保险栈。报告还讨论了针对前沿 AI 灾难性风险的承保（AI CAT），涉及 CBRN、关键基础设施崩溃与失控场景，认为应对这些尾部风险需要专门工具，可能包括前沿模型开发者互助组织、巨灾债券、定制责任制度与政府兜底。

研究：生成式 AI 模型中的概率性复制与版权认定

Mark A. Lemley 与 A. Feder Cooper 在论文中讨论，已有研究显示可从部分大语言模型中提取某些受版权作品的逐字或近似逐字文本，说明模型权重以某种形式编码了这些作品。作者指出 LLM 并非以数据库格式存储信息，而是存储从训练数据中学到的 token 间统计关系，生成过程常是概率性的而非确定性的。版权法此前未处理过这种可能产生相似输出、也可能不产生的信息存储是否构成复制。作者认为，现行法下最可能的结果是采取功能性路径，即只有当某作品能被直接提取到输出中时，才认定模型包含该作品的复制，并指出这一结果在政策层面并不令人满意，提出了可能的修法方向。论文即将发表于 Berkeley Technology Law Journal。

论文盘点 AI 事件治理中的开放问题

一篇被 ICML Technical AI Governance Research workshop 2026 接收的论文考察了监管机构与独立项目现有的 AI 事件治理框架，指出这些框架虽描述了各项职能如何执行，但在事件定义、分类、监测和报告上缺乏一致性。作者认为，这种不一致体现在所收集和报告的事件数据类型、分类方式上，进而影响可开展分析的深度、代表性和准确性。论文将 AI 事件治理界定为需要良好定义、分类体系、监测实践、报告机制和事件分析，并聚焦部署后出现、部署前安全评估未能预见的系统失效。

印度《消费者保护法》能否覆盖 AI 产品损害？工作论文指出归责缺口

一篇工作论文评估印度《2019 年消费者保护法》是否足以应对缺陷 AI 产品与服务造成的损害，以及能否在 AI 价值链上按比例分配责任。该法对产品责任、损害和缺陷的宽泛定义看似技术中立，或可覆盖人身伤害、心理伤害、偏见输出与失控等 AI 相关事件，但存在明显缺口：AI 缺陷与消费者损害之间的因果关系难以证明，且 AI 价值链中数据提供方、模型开发者、部署方与用户的责任相互重叠，难以对应法律预设的制造商、销售者与服务提供者角色。论文认为现行责任框架缺乏按比例归责机制，执法还需厘清与行业专门规则的交叉。

研究称全球南方 AI 审计远落后于部署，十年仅不足二十例已部署系统审计

Eticas Foundation 的研究者基于十年审计实践指出，全球南方 AI 部署速度不逊于北方，但审计严重滞后。作者统计，过去十年拉丁美洲、撒哈拉以南非洲和亚太地区已部署系统的第二、第三方审计不足二十例，而该地区有数百个已记录的公共部门算法和数十亿美元的国家 AI 投资。研究归纳出四类共性模式：用代理指标替代效度、性能声明在流行率分析下失效、被评分人群从未出现在训练数据中、移除受保护属性后结构性偏差依然存在。作者认为这一差距根源不是能力问题而是资金问题，最有条件改变现状的是资助该地区多数关键 AI 的发展与慈善资助方，可通过资助条件要求独立评估。

多作者论文评估 AI 研发自动化触发智能爆炸的可能与政策应对

一篇 arXiv 论文评估了 AI 研发自动化可能触发智能爆炸的证据，并分析其影响与政策回应。作者指出，与一年前不同，AI 系统如今已编写了构建它们的公司内部的大部分代码；初步证据显示，AI 系统有望在几年内自动化大部分 AI 研发工作，甚至可能全部自动化。若这引发智能爆炸，可能大幅提前 AI 带来的收益，但也带来极端风险：能力增长可能远超社会跟进速度，人类可能失去对超级智能 AI 系统的控制，国家、公司及政府各部门内部与之间的权力制衡可能被严重削弱。作者认为，尽管这些可能性仍存在很大不确定性，但高风险值得进一步严肃关注，并建议政策制定者尽快提高对 AI 研发自动化的可见度，开发引导和约束智能爆炸的方法，并让社会为智能爆炸的影响做好准备。

美国隐私岗位招聘分析：AI 治理职责如何嵌入隐私职位

一项对 LinkedIn 和 Indeed 上 1,143 条美国隐私岗位招聘信息的计算分析发现，隐私岗位普遍呈混合形态，同时要求法律知识、技术技能与人际能力。AI 相关表述出现在超过一半的招聘信息中，并分布于合规、法律、治理与安全等主题；研究据此指出，AI 治理职责常被嵌入既有隐私岗位，催生出混合职位与专职 AI 治理岗位并存的格局。

研究：EdTech 平台将隐私与 AI 披露推迟到产品后期

一项混合方法研究考察了教育科技（EdTech）平台如何处理学生隐私与 AI 披露。研究者对 12 名 EdTech 从业者进行半结构化访谈，并对 48 家平台的隐私政策按五个维度编码审计，评分者间信度较高（平均 Cohen's Kappa = 0.781）。访谈显示，隐私虽被认可为重要，却常在产品生命周期中被推迟，组织优先考虑功能、增长、融资和即时教学效果，并把责任转嫁给云服务商、政策文件或下游机构。政策审计发现，平台对收集哪些数据描述较充分，但对数据后续治理说明明显不足：33% 的平台在存在可见 AI 功能的情况下未做有意义的 AI 披露，73% 只提供笼统的问责与泄露响应措辞。K-12 平台在监管有明确要求时对儿童同意的处理更好，但这一优势未延伸到 AI 治理或问责。

论文提出推理阶段 AI 治理的可行性分类框架

论文《Beyond Training: A Feasibility Taxonomy for Inference-Time AI Governance》提出，当前算力治理以训练算力和训练后模型为监管单元，而推理时扩展、智能体脚手架和模型压缩正把能力迁移到部署阶段。作者构建了覆盖监控、验证与执行三类共二十项推理阶段机制的可行性分类，按四级就绪度量表对照四家厂商的证据基础评分，其中十五项已有商用技术底座在生产环境中运行，但治理级保证与对抗鲁棒性差异明显。用三维能力层级乘四类对手角色的对手模型做压力测试后，没有机制能对高能力国家层级部署者评为充分，微调会移除执行类机制中模型内部的组件，平台外部控制仍可保留。作者还通过替换分析把该分类与一篇配套硬件论文相连，提出条件性替换原则，并报告随机子集二次评分的一致性为二次加权 Cohen's kappa 0.74。

研究者构建中国AI生成内容合规基准，评测20个LLM

研究者提出一套评估LLM是否符合中国AI生成内容合规要求的框架，并对20个知名模型给出评测结果。该框架包含2303个问题，覆盖六个维度，其中203个为自行构建的宪法类问题，由多个评判模型基于各自的分层对齐记忆独立给出裁决。结果显示，国际模型在使用标准中文问题时也表现出较高的合规水平，主要差异可能来自与意识形态对齐密切相关的维度。作者据此建立了一个监管基准，供全球AI社区在统一的法律依据下评测中外LLM。

研究者发布面向 EU AI Act 行为准则的系统性风险指数与仪表盘

研究者提出 Systemic Risk Index，一套开放评测流程与仪表盘，把 19 个公开基准归入 EU GPAI Code of Practice 定义的四类系统性风险：CBRN、网络攻击、有害操纵和失控，并用保留危害的扰动与模拟部署情境评测模型。仪表盘允许用户在平均与最坏情况聚合之间切换、调整模型能力对总分的影响，并把每项风险评级追溯到对应基准证据。在 18 个模型上，最坏情况聚合下分数下降 14 至 37 分，显示平均口径可能掩盖的风险信息。LLM 评委与人工评分者的一致性和人与人之间相当（κ = 0.78–0.82），盲审发现 83% 的抽样变换保留了原始危害；一项 N = 21 的调查中，多数参与者认为分数易于理解，仪表盘促使他们从不同设置查看模型评测。

OpenAI 疑似再进行一次气隙隔离强化学习训练

据 X 用户 @matthew_d_green 发帖，OpenAI 似乎正在进行另一次气隙隔离的强化学习训练。该说法为发帖者的观察与推测，未提供更多细节。

MI5 警告：中国 MSS 通过 CGTRI 资助涉及 100 多名英国关联学者的研究

英国军情五处（MI5）9 月 30 日发布“安全局间谍警报”，称中国通用技术研究院（CGTRI）是国家安全部（MSS）的掩护机构，其资助的研究直接提升 MSS 的间谍技术能力，涉及人工智能、网络安全、隐蔽通信和隐写术等方向，已有 100 多名英国关联学者参与相关项目，部分人可能不知资金来源。MI5 要求英国学术机构立即审查与 CGTRI 的合作并追溯中方合作资金，否则可能依《2023 年国家安全法》被起诉。中国驻英使馆称相关指控“纯属捏造”。

加州州长 Newsom 签署多项法律，保护劳动者免受 AI 威胁

加州州长 Gavin Newsom 于 9 月 30 日（周三）签署多项法律，保护本州劳动者免受 AI 带来的失业与职场监控威胁。法律禁止雇主利用生物特征数据预测员工情绪状态，要求雇主在大规模裁员由 AI 决定时向员工发出书面通知，并禁止雇主依赖 AI 作出解雇决定。Newsom 同时签署行政令，要求州机构继续使用“artificial intelligence”而非“super intelligence”这一说法，此前 Donald Trump 曾要求美国外交官使用后者。Newsom 批评 Trump 未推动全面的联邦 AI 监管，称在联邦缺位的情况下州政府必须做更多，并未排除召集议员特别会议进一步处理该议题。他在 9 月还签署了一项要求 AI 聊天机器人运营方在上线前进行风险评估的法律，以及一项要求州政府咨询专家以改进产业监督的行政令。

推荐理由加州新法把 AI 用工决策、情绪推断与裁员通知纳入监管，可对照联邦层面的缺位理解州级立法路径。

全国网安标委就《智能体系统开发安全指南（征求意见稿）》公开征求意见

全国网络安全标准化技术委员会秘书处于 2026 年 9 月 18 日发布通知，就《网络安全标准实践指南——智能体系统开发安全指南（征求意见稿）》面向社会公开征求意见，目的是指导智能体系统安全开发、防范化解相关安全风险。意见反馈截止日期为 2026 年 10 月 2 日，反馈可联系秘书处联系人李子威。

推荐理由全国网安标委就智能体系统开发安全指南公开征求意见，关注 Agent 安全标准落地的团队可据此了解监管方向。

全国网安标委发布《人工智能应用安全指引 总则》等4项网络安全标准实践指南

全国网络安全标准化技术委员会秘书处发布《人工智能应用安全指引 总则》等4项网络安全标准实践指南，用于应对人工智能快速应用带来的新风险。该系列文件分为通用文件与行业领域文件两类，本次发布的总则属通用文件，提供通用性安全指导，适用于各行业领域开展人工智能应用活动；教育、卫生健康、广播电视和网络视听三项属行业领域文件，为特定行业提供针对性安全实践指引。通知同时附有4项实践指南清单与文本。

论文梳理二十个 AI 中等强国司法辖区的 GPAI 治理条款

论文《Mapping General-Purpose AI Governance in Twenty AI Middle-Power Jurisdictions》以单条条款为单位，梳理了包括欧盟在内的二十个未设前沿开发者的 AI 中等强国司法辖区在 GPAI 治理上的立法情况，覆盖系统风险评估、评估与验证、带监测与检测的禁止条款、严重事件报告四个领域，并将确认缺失也作为数据记录。研究发现各辖区在形式上趋同但在约束力上分化：十六个辖区至少涉及四个领域中的三个，但仅约五分之一的条款位于有约束力的法律中，且四分之三具有约束力的文书未定义 GPAI。制度基础设施呈现相似形态，五分之四被梳理的治理主体其授权早于 GPAI 出现，义务落在既有制度已覆盖的应用层而非模型层；这些国家触及模型层时更多是建设观察能力而非对开发者施加义务，几乎所有评估机构在设立时都没有依据评估结果采取行动的权力。

无架构师的架构？分裂世界中的全球 AI 治理

针对全球 AI 治理规则碎片化、代表性不均且多为非约束性的困境，Simon Chesterman 在评论 Matthijs Maas《Architectures of Global AI Governance》时指出，制度设计无法与权力分配分离。Maas 以社会技术变迁、治理中断与机制复杂性为框架，反对技术决定论和单一制度蓝图；但 Chesterman 认为其常提的"我们"掩盖了国家、国际机构与科技公司间的差异，前沿 AI 的关键决策集中于少数私营公司，全球 AI 治理更像是多方权力与激励分歧下形成的架构。

GIRAI 2026 报告：135 国负责任 AI 治理评估发布

全球负责任 AI 指数（GIRAI）2026 报告基于 UNESCO 等人权框架，评估各国如何把负责任 AI 承诺转化为可执行的保护、机构能力与救济机制。评估覆盖 135 个国家的 68,138 个数据点、38 项指标，分政府 AI 政策与实施（17 项）、公民社会参与（5 项）、使能条件（15 项）及政府部署不可接受风险 AI 系统的记录案例，数据区间为 2023 年 11 月至 2025 年 9 月。结果显示，135 国中有 126 国至少有一项政府 AI 政策或举措，但往往未转化为实质保护：全球南方国家自首版以来新增 306 项框架指标案例中的 203 项，其中 78% 的框架不具约束力，全球北方为 42%。透明与可解释性是表现最好的指标之一，58% 的国家有相关框架，但仅 18% 要求公开政府算法；35 国存在政府部署不可接受风险 AI 系统的可信证据。

论文提出面向 AI 智能体的事件报告要素框架

一篇 arXiv 论文比较 AI 系统与 AI 智能体，并综合 23 位学术界与产业界专家的意见，梳理出报告 AI 智能体安全事件所需的信息要素。论文提出的潜在报告要素包括智能体记忆与记忆访问、实际与潜在的自主性水平以及工具使用情况。作者据此列出若干开放研究问题，例如如何高效记录事件、如何判断漏洞与事件是否具有泛化性。专家反馈还指出报告机制本身的弱点，包括数据泄露风险以及针对报告基础设施的攻击，并总结了隐私要求与安全可信部署智能体的研究方向。

研究梳理88个AI非自愿私密影像网站依赖的基础设施供应商

Sarah Morgan、Hany Farid 与 Sophie J. Nightingale研究公开分发AI生成非自愿私密影像的网站及其基础设施。他们在六周检索窗口内找到400个URL，筛出88个相关网站，再分析托管、内容分发、DNS、域名及其他服务。研究认为少数大型供应商在其中扮演重要角色，并呼吁识别违规服务、停止支持和加强治理。样本不代表全网，CDN或代理服务不等同于直接托管，服务关联也不证明供应商知情协助。

Hendrycks 在 Coursera 推出 AI 安全新课程

今天在 Coursera 上线了一门新课程。 课程包含 3 个部分： - AI 入门（驱动因素、瓶颈、时间线） - AI 风险（恶意使用、失控、权力集中） - AI 治理（AI 层面、企业层面、国家层面和国际层面的治理） https://www.coursera.org/learn/intro-to-ai-safety

威斯康星州候选人 Cooke 就 AI 深度伪造视频向众议员 Van Orden 发出停止侵权函

美国威斯康星州第三选区民主党候选人 Rebecca Cooke 的律师于 9 月 30 日向共和党众议员 Derrick Van Orden 发出停止侵权函，指其多次使用 AI 生成视频，让 Cooke 说出她从未说过的话。这些发布在 Van Orden 的 X 账号上的视频带有自动标签，显示由 AI 图像与视频生成器 Grok Imagine 制作。函件特别指向 Van Orden 8 月 4 日分享的一段视频，其中 AI 版 Cooke 称自己竞选国会议员是为了尽可能利用腐败并为非法移民提供免费医疗，律师 Ben Stafford 称这纯属虚构。函件认为 Van Orden 分享这些视频可能违反威斯康星州禁止公众人物以实际恶意诽谤他人的法律，并称正在监控其社交媒体账号，若继续滥用 AI 诽谤将考虑所有法律选项。

Anthropic 承诺向第三方评估者提供员工级系统访问权限

Anthropic 宣布将向第三方评估者提供永久、员工级别的系统访问权限，使其能够核查公司对安全措施的遵守情况、报告事件，并在训练期间评估模型的对齐状况。Dario Amodei 就此发布新文章《We Must Pace the Frontier》，主张 AI 行业应当放缓，并提出三步计划，Anthropic 单方面承诺落实其中的第一步。Sam Bowman 转发并评论称，这种持续问责将为安全带来许多有价值的可能性，他希望在其他地方也能看到类似做法。

推荐理由Anthropic 承诺向第三方评估者开放员工级系统访问，关注前沿实验室安全治理与外部问责机制的读者可了解这一安排。

UK AISI 招聘，从事前沿 AI 安全工作

UK AISI 迄今成效显著，我们从他那里学到了很多。 如果你想在美国之外从事 AI 安全工作，应该加入他们！

英国 AISI 招聘前沿 AI 安全人才

英国政府的 AI Security Institute 正在招聘！我认为政府内部拥有强大的技术专长非常重要，AISI 能招到的人才数量令我印象深刻，他们在评估 Astra 等方面的工作也很出色。