Future of Life Institute 启动名为 Protect What's Human 的全国性 AI 监管活动，最高支出 800 万美元，首站覆盖 Iowa、Kentucky、Maine、Michigan、North Carolina 五州。活动意在把 AI 监管讨论带出华盛顿与硅谷，聚焦已感受到 AI 影响的普通美国人，并推动各州 AI 安全立法。FLI 称在 D.C. 与湾区之外 AI 监管获两党支持，而 2026 年选举议题中普通美国人的视角缺失。
欧盟委员会未能按期于 2026 年 2 月 2 日发布高风险 AI 系统分类指南草案，将推迟至本月晚些时候公布，理由是需整合过去一个月收到的大量反馈并走完内部程序。POLITICO 报道称，欧盟科技负责人 Henna Virkkunen 在达沃斯为《人工智能法案》辩护，援引斯坦福大学研究指出美国存在超过 200 项州级 AI 监管规定，以此反驳美方分散立法更利于创新的观点。《经济学人》则提到欧洲企业历来采纳新技术缓慢，且欧盟 AI Act 可能因合规负担拖慢生成式 AI 的应用普及。
FAR.AI 宣布被欧盟委员会 AI Office 选中，牵头 EU AI Act 下 CBRN 风险建模与评估联盟，为法案实施提供技术安全研究。该联盟由 FAR.AI（AI 安全研究与红队）、SecureBio（生物威胁评估）、SaferAI（AI 治理与风险建模）组成，并有 GovAI、Nemesys Insights、Equistamp 作为分包方，中标项目为 EC-CNECT/2025/OP/0032 Lot 1。未来三年，FAR.AI 将与 AI Office 共同开展风险建模与场景开发、评估工具与标准化报告流程建设、红队与对抗测试，以及定期向委员会通报模型、风险来源、诱导技术、缓解措施与事件等新进展。FAR.AI 还将作为分包方参与同一招标 Lot 4 的有害操纵风险建模评估。
推荐理由欧盟 AI Act 下 CBRN 风险建模与评估的承包安排，呈现监管机构如何把技术评估外包给研究联盟。
新华社报道的高层学习会将 AI 称为最具标志性的前沿技术之一，并提到虚假信息、数据窃取乃至“技术失控风险”，强调早介入、小切口地防范风险。国家互联网信息办公室于去年12月27日发布类人交互 AI 服务监管草案，针对模拟人格与情感互动的 AI 陪伴产品，禁止诱导自杀自残、刻意设计致瘾功能和通过“情感陷阱”操纵用户决策，并要求提醒用户对方并非真人及关注未成年人保护。工信部下属智库中国电子信息产业发展研究院报告将滥用防治列为 2026 年三大 AI 治理重点方向之一，并把“失控”定义为人类无法理解或控制系统以及因过度依赖导致的能动性侵蚀。
英国政府发起安全 AI 计算系统开发的信息征集，向 AI 行业、网络安全行业及更广泛的产业界与学术界收集观点，用以了解当前的安全挑战、现有能力、现实约束以及值得推进的研究与技术试点方向。该公告于 2026 年 1 月 29 日发布，旨在帮助政府在确保安全的条件下开发和部署最先进的 AI 系统。
Hyperdimensional 作者 Dean Ball 提出一系列猜想讨论 AI 与儿童议题，主张不应将 AI 简单类比社交媒体——后者本质是被动消费，而生成式 AI 由用户输入驱动、更具创造性。他认为美国各州去年出台数十部 AI 儿童安全法律、今年预计超一百部，其中合理的对象层立法应要求大型 AI 公司提供年龄验证或检测、面向未成年人的内容护栏以及家长控制。他还指出，"AI 伴侣"究竟为何物尚无共识，且近几个月编程智能体的兴起给"AI 儿童安全"带来了全新含义和一批开放问题。
欧洲议会 57 名跨党派议员呼吁在欧盟范围内禁止生成非自愿性化深度伪造图像的 AI 应用，起因是 X 平台上 Grok 机器人生成的此类图像大量传播；欧盟委员会已要求 X 提供更多信息并下令保留 Grok 相关文件至年底，尽管 X 声称已阻止编辑暴露衣着人物图像，POLITICO 核实用户仍可生成。欧洲议会 LIBE 委员会确定数字简化方案牵头方，Renew 的 Michael McNamara 负责 AI 方案并联合主持监督 AI Act 实施的工作组，他强调修订需真正简化实施而不削弱核心保障，同时指出 2026 年 8 月高风险 AI 合规期限临近。
前 OpenAI 政策研究者 Miles Brundage 联合创办的非营利智库 AVERI（AI Verification and Evaluation Research Institute）正式成立，目标是让针对前沿 AI 开发者的第三方审计变得有效且普及。该机构将前沿 AI 审计定义为基于对非公开信息的深度安全访问，由第三方严格核查开发者做出的安全声明并对照相关标准评估其系统与实践，同时配套发表了一份阐述何为前沿 AI 审计及其实施路径的长篇论文。
2026 年美国各州立法会期出现大量实质性 AI 法案，覆盖责任、算法定价、透明度、陪伴型聊天机器人、儿童安全与职业许可等议题，各州在框架选择上分歧明显，可能形成真正的监管碎片化。作者指出，2025 年逾 1000 项州级 AI 法案中多数为设立研究委员会等无害内容，而今年实质性法案数量已多到无法逐一独立覆盖，因此改为按主题挑选代表性法案深入分析。
FAR.AI 在 2025 年获得超 3000 万美元资助承诺，资助方包括 Coefficient Giving、Schmidt Sciences、Survival and Flourishing Fund、CSET 和由 Frontier Model Forum 支持的 AI Safety Fund。资金将用于把技术研究团队从 15 人扩至 30 人以上、新设技术治理部门、每年支持 20 名以上研究员，并将 Alignment Workshop 从每年两场增至三场、拓展至亚洲和全球南方。FAR.AI 计划到 2028 年取得 3-5 项重大技术突破，并推动前沿实验室采纳安全标准。
Frontier Model Forum 执行董事 Chris Meserole 在 FY 2024-2025 年度报告中总结，FMF 过去一年在三大方向取得进展。
Dean Ball 撰文回顾 2025 年 AI 进展，称 OpenAI o3 的工具调用能力是全年首个真正突破，Claude Opus 4.5 等前沿编程智能体已基本成为自主软件工程师。他描述当前工作流已两次被重塑，日常使用 Gemini 3 Deep Think、GPT-5.2 Pro、Claude Sonnet 4.5、Claude Code 等模型与智能体。他指出目前尚无吉瓦级数据中心，但到 2026 年底美国企业将掌控近六座此类设施，并认为 AI 政治化也在 2025 年成为现实。
中国信通院（CAICT）发布58页AI安全报告，首次完整公开编程模型安全评估结果，发现多数编程模型缺乏对网络攻击滥用的足够防护。报告承认AGI失控风险但将其列为中低治理优先级，理由是近期发生可能性低。国务院新闻办11月发布军控白皮书，首次在中央政府政策文件中明确提示AI与军民两用化学品融合风险，但未涉及AI驱动的生物、核及网络滥用风险。世界互联网大会专家委员会提出以联合国为中心的前沿AI风险治理框架，强调跨境评估、早期预警与应急响应机制。
美国特朗普总统签署行政令，试图阻止各州自行监管 AI，通过联邦资金与执法手段评估、挑战并限制州级法律，并以一套尚未明确的联邦框架取而代之。该行政令无法单方面推翻州法，而是指示联邦机构依据现行法律解释发起挑战或扣留相关联邦资金：司法部长将组建工作组挑战其认为繁重的州级 AI 法律，商务部长将认定违规州不具备联邦宽带资金资格，FCC 将研究是否要求 AI 开发者向监管者提供标准化模型信息，FTC 需就现行反不公平或欺骗性商业行为法如何适用于 AI 模型发布指引。白宫 AI 与科学顾问将起草一部国家 AI 法，以覆盖与联邦政策冲突的州级规则，同时保留儿童安全、AI 基础设施、州政府自用 AI 等领域的州法。
Frontier Model Forum 宣布 AI Safety Fund 新一批 11 个受资助方，共获得超过 500 万美元，从 100 多份提案中遴选产生。
国际 AI 安全研究所网络在圣地亚哥会议后更名为国际先进 AI 测量、评估与科学网络，英国出任网络协调员。该网络 2024 年 11 月成立，成员包括澳大利亚、加拿大、欧盟、法国、日本、肯尼亚、韩国、新加坡、英国和美国，旨在就先进 AI 能力测量与评估建立共享科学理解和国际认可方法。会议与 NeurIPS 同期举行，各方承诺加倍聚焦 AI 测量与评估科学。
安远AI近日正式加入国际人工智能安全与伦理协会（IASEAI），成为其协会伙伴（Affiliate），截至2025年10月是国内唯一加入该协会的机构。IASEAI由加州大学伯克利分校教授Stuart Russell于2024年创立，成员包括联合国教科文组织人工智能国际研究中心、剑桥大学Leverhulme智能未来中心、Mila等近百家机构，姚期智任董事委员、张亚勤任顾问委员。安远AI创始人谢旻希曾在2025年IASEAI首届国际大会上发言，并将参与2026年第二届年度大会。
安远AI于今年10月正式加入人工智能伙伴关系（Partnership on AI，PAI），与魁北克人工智能研究所（Mila）、韩国人工智能安全研究所（Korean AISI）、Resaro等十家机构共同入选。PAI是由学术界、民间社团、行业和媒体组成的非营利合作网络，合作伙伴已覆盖17个国家/地区的140余家机构。安远AI创始人兼首席执行官谢旻希表示，加入PAI将增强其在促进协作与创新解决方案方面的承诺，并借助PAI全球社区扩大影响力、推动共识。
安远AI创始人兼CEO谢旻希在联合国与国际电信联盟（ITU）共同组织的2025“AI向善”全球峰会上，将前沿AI风险归纳为滥用、意外故障、失控与社会系统性冲击四类，并提出“部署前—部署后”两步治理路径：部署前落实模型登记与审计，部署后建立生成合成内容标识及AI智能体身份标识以实现追溯问责。他援引《国际人工智能安全报告》指出，前沿AI已在编程、科学推理、病毒学等两用领域达到专家级水平，AI智能体已具备利用零日漏洞的能力，并呼吁以多方协同框架明确不可接受结果与早期预警指标。
2025年7月发布的《关于人工智能与生命科学融合的生物安全风险的声明》，获超40位专家联署，含姚期智、Yoshua Bengio、George Church、张卫文、谢旻希等，由核威胁倡议组织（NTI）官网首发。声明警告AIxBio能力既降低制造有害生物制剂的准入门槛又抬高危害上限，还能削弱传染病监测、医疗防护与核酸合成筛查等防御体系，尤其点名面向科学发现的AI智能体能自主执行多步任务并被滥用。声明呼吁各国政府、产业界、学界与资助方共建技术护栏与治理机制，投入负责任的研发并推动国际合作。
FAR.AI 举办研讨会，帮助记者理解 AGI 时间线的分歧预测。Helen Toner 提出三种分析视角，Anton Korinek 指出 AGI 能胜任人类创造的任何新工作，将根本性削弱人类劳动在经济中的角色。Anthropic 的 Evan Hubinger 与 OpenAI 的 Jason Wolfe 分别分享了模型训练中失准及"谋划"行为的研究，后者在压力测试中于前沿模型上发现此类行为，但强调这不代表典型部署条件。
习近平在韩国 APEC 领导人会议期间与特朗普会晤时表示，美中在 AI 等领域拥有良好合作前景，并称 AI 将列入 2026 年由中国主办的深圳 APEC 议程，会议还通过了聚焦发展的 APEC AI Initiative（2026–2030）。同期，外交部副部长马朝旭在联合国安理会会议上呼吁全球 AI 治理共识，重申中国 7 月提出的世界人工智能合作组织提案。国内方面，中国首次修订《网络安全法》，新增第二十条 AI 条款，支持研发并提供数据算力、完善伦理准则与风险监测，但未引入新的强制性法律义务。
FAR.AI 联合创始人兼 CEO Adam Gleave 入选 Schmidt Sciences 的 AI2050 早期职业研究员。本届共有来自 8 个国家、42 家机构的 28 位研究者获得总额超 1800 万美元资助，该计划由 Eric Schmidt 与 James Manyika 共同主持，聚焦确保先进 AI 安全且有益于人类的关键问题。Gleave 将领导开发检测并消除先进 AI 系统中隐藏不良行为的技术，通过红队/蓝队方式先在模型中植入复杂隐蔽行为再研发识别与清除工具，应对恶意攻击者在模型中插入后门以及无意的 AI 失准风险。
Joe Carlsmith 宣布离开 Open Philanthropy，将于 11 月中旬加入 Anthropic，参与 Claude 的性格、宪法与规范（character/constitution/spec）设计。他在 Open Philanthropy 自 2019 年起参与并领导“世界观调查”团队，产出关于 AI 时间线、起飞速度、AI 驱动增长与灾难性风险的研究，包括 power-seeking AI、scheming AIs 与对齐问题等报告。他表示文章仅代表个人观点，不代表 Open Phil 或 Anthropic。
英国科学、创新与技术部（DSIT）确认向英国研究机构提供 550 亿英镑长期研发资金，覆盖至 2029/2030 财年。其中 UKRI 将获得逾 380 亿英镑，ARIA 年度预算到 2029/2030 年从 2.2 亿英镑增至 4 亿英镑，Met Office 获逾 14 亿英镑。新分析称政府每投入 1 英镑研发资金可带来 8 英镑净经济收益，并平均撬动 2 英镑私人投资。
特拉华州与加州总检察长对 OpenAI 转为营利性公益公司（PBC）的重组方案有条件放行，微软也以调整合作条款和获得新 PBC 1350 亿美元股权为条件表示同意。总检察长提出的二十条要求包括：非营利组织独家拥有任免 PBC 董事的权力；PBC 董事会在安全与安保事务上只能考虑使命；由 Zico Kolter 领导的 Safety and Security Committee 有权要求缓解措施乃至叫停新模型发布；非营利董事每半年、PBC 高管每季度向总检察长办公室汇报；限制非营利治理权需提前 21 天通知。
英国政府委托、Yoshua Bengio 主持的《先进 AI 安全国际科学报告》中期报告发布，由 30 个国家及欧盟、联合国代表组成的国际专家咨询小组监督完成，旨在建立对前沿 AI 风险共同的科学证据理解。报告聚焦通用 AI，指出其能力在多项指标上快速提升，但研究者对因果推理等根本挑战是否取得实质进展仍有争论，对未来进展速度也存在缓慢、快速与极快三种判断。报告认为当前对通用 AI 能力与内部机制的理解有限，提升这种理解应成为优先事项；通用 AI 既可用于增进福祉与科学发现，也可能被恶意行为者用于大规模虚假信息与影响行动、欺诈，或因故障产生针对种族、性别、文化、年龄、残障等受保护特征的偏见决策。
未来生命研究所公布一项覆盖 2000 名美国成年人的全国调查（2025 年 9 月 29 日至 10 月 5 日），结果显示 64% 受访者认为在科学界确认安全可控之前不应开发超级人工智能，或者根本不该开发。73% 的人支持对 AI 实施强力监管，反对强监管的比例仅为 12%；另有三分之二希望立即暂停先进 AI 的开发直到其安全性获得证明。对于专家级 AI，57% 表示在当前条件下不接受继续推进，其中 17% 认为永远不该开发，40% 主张至少应暂停到证明可控为止，仅有 5% 支持尽快发展这两类技术。当被问到应由谁来主导发展方向时，国际科研机构和各国政府机构的排名最高，开发和运营 AI 的公司及其管理层获得的信任明显偏低。
美国参议员 Dick Durbin 与 Josh Hawley 提出 AI LEAD Act，为受 AI 系统伤害者建立联邦起诉路径，将产品责任适用于 AI 系统。法案规定，若企业在设计、说明或警示上未尽合理注意义务，违反自身提供的保证，或销售存在缺陷、可致不合理危险误用的系统，则需承担责任；部署者若大幅修改或危险误用系统同样担责。法案还禁止企业通过消费者合同限制责任，要求外国 AI 开发者在美国市场销售前登记送达代理人，并允许各州制定更严格的安全立法。
Future of Life Institute 美国政策负责人 Michael Kleinman 就加州州长 Newsom 签署 SB 53 发表声明，称这是建立先进 AI 系统基本保护措施的标志性时刻。声明援引民调称 82% 的共和党人认为应限制 AI 可做的事，超过 70% 的选民支持政府制定安全标准。声明还提到，今年夏天参议院以 99 比 1 否决了阻止各州采取行动的尝试，并表示在联邦出台强有力的 AI 安全标准之前，红州和蓝州都只能继续填补这一空白。
Concordia AI 将于 10 月 16 日 23:00 GMT+8 举行线上研讨会，讨论其 7 月发布的《State of AI Safety in China (2025)》报告的发现。该年度报告首版于 2023 年、2024 年更新，聚焦中国不断演变的 AI 安全与治理格局。Angela Huyue Zhang、Paul Triolo、Samm Sacks 三位专家将参与小组讨论并设有观众问答环节，活动通过 Zoom 报名参加。
Miles Brundage 汇总其近几个月参与的几项工作，涵盖国际 AI 协议核查、前沿 AI 流程合规审查以及将 AI 用于加速网络防御的提案。他与合作者发表两篇紧密相关的论文，提出针对大规模 AI 开发与部署规则的六层核查体系，并探讨国际 AI 治理中的核查问题。他还参与了关于前沿 AI 安全框架第三方合规审查的论文，指出企业承诺难以核实执行力度，并提出“流程合规”作为审计对象之一。此外他向 Institute for Progress 的 Launch Sequence 提交“Operation Patchlight”提案，主张用尖端 AI 抢先查找并修补开源代码漏洞，同时资助 AI 驱动的网络安全工具持续改进。
Google 隐私、安全与安保团队联合 Airbus 在 DEF CON 33 举办了聚焦人机协作的 GenSec Capture the Flag（CTF）。近 500 名参与者完成了入门挑战，其中 23% 的人首次将 AI 用于网络安全工作流，85% 的参与者认为该活动有助于了解 AI 在安全工作流中的应用方式。活动中还提供实验性的网络安全 AI——Sec-Gemini 作为可选助手，77% 的受访者表示它对自己解决挑战“很有帮助”或“极有帮助”。
加州州议会于 9 月 17 日通过 SB-53（《前沿人工智能透明度法案》），并将其送交州长 Newsom，签署截止日期为 10 月 12 日；若签署生效，加州将成为美国首个监管灾难性风险的州。该法案是去年被否决的 SB-1047 的弱化续作，采纳了州长 AI 前沿模型政策工作组 6 月报告的建议，将灾难性风险定义为单次事件造成 50 人以上死亡或重伤、或超过 10 亿美元财产损失，涵盖协助制造 CBRN 武器、自主网络攻击与失控等情形。法案要求前沿开发者发布并每年更新前沿 AI 框架、为每个新模型发布透明度报告、每 3 个月向加州应急服务办公室（OES）提交内部使用的灾难性风险评估，并禁止就相关风险作虚假陈述。
Google 宣布更新 Google、Cloud、AI 与 Abuse 漏洞奖励计划（VRP）评估报告质量的方式，目的是让奖励结果更一致，并让报告更容易满足卓越奖励奖金的资格。该框架同时适用于这四个 VRP。
Google 在 Made by Google 2025 上宣布 Pixel 10 手机将在 Pixel Camera 和 Google Photos 中支持 C2PA Content Credentials，Pixel 10 系列成为首个由 Pixel Camera 拍摄的每一张照片都内置该凭证的产品线。其实现基于 Tensor G5、Titan M2 安全芯片及 Android 硬件级安全 API，并采用隐私设计管理证书，使图片之间及其创作者无法相互关联。Pixel Camera 达到 C2PA 合规计划目前定义的最高安全等级 Assurance Level 2，移动应用获此评级当前仅限 Android 平台。
OpenAI 前政策研究员 Miles Brundage 撰文定义并分享了撰写 Megapapers 的经验——由 20+ 位作者、15+ 家机构和 10+ 学科共同参与的大型研究报告，并以《The Malicious Use of Artificial Intelligence》为例说明其价值在于整合跨领域知识和提供一站式参考。他认为此类报告因项目管理难度高且贡献分散而在学术界天然稀缺，建议通过定期会议协调核心团队来推进协作。
英国 AI 安全研究院（AI Security Institute）首席技术官 Jade Leung 被任命为首相的新任 AI 顾问。她将直接向首相以及科学、创新与技术大臣汇报，并在唐宁街 10 号与 AI 安全研究院之间分配工作时间。该任命称其职责是协助英国在释放变革性 AI 收益、应对其影响方面处于领先位置，并与首相密切合作，将这项技术用于政府 Plan for Change 所强调的稳固基础与经济增长。
推荐理由英国 AI 安全研究院 CTO 兼任首相 AI 顾问，反映安全机构与政府决策层的衔接方式。
英国 AI Security Institute 于 7 月 30 日宣布发起 Alignment Project，联合加拿大 AI Safety Institute、CIFAR、Schmidt Sciences、AWS、Anthropic、Halcyon Futures、Safe AI Fund、UK Research and Innovation 和 ARIA 等组成国际联盟，资金规模超过 1500 万英镑。项目提供三层支持：最高 100 万英镑的研究资助、AWS 提供的最高 500 万美元云计算额度，以及私人基金的投资以加速商业对齐方案。
推荐理由英国 AISI 牵头的对齐项目给出资助、算力与风投三层支持结构，可对照各国安全研究所的资助模式。
FAR.AI 在华盛顿举办会议，汇聚超 150 名专家讨论 AI 治理的技术基础，涵盖能源需求、与中国竞争、安全评估及形式化可验证承诺等问题。会上提出将审计作为综合生态系统推进有效治理，并建议以多层防御系统应对失控风险——由可信 AI 通过红队评估监视不可信 AI，同时警告这只是权宜之计。