英国部长探讨强制AI安全报告
英国部长正在探讨推行强制性的 AI 安全报告制度。Kanishka Narayan 将要求企业对自主模型实施更严格的管控，并建立相应的保障措施。
AI 安全新闻与动态
动态 · News
细分
研究话题
公司与机构
报告与框架
动态新闻
细分
研究话题
公司与机构
报告与框架
GovAIGovAI · GovAI 以非营利组织身份重启
GovAI 宣布以非营利组织身份重启，使命不变，仍致力于建设全球研究社区，帮助人类应对先进 AI 转型。其核心研究活动基本保持原样，但将借助新结构带来的灵活性扩展领域建设，未来一年计划举办首届 AI 治理会议并设立学生研究奖。目前正招聘 Chief of Staff 与 Research Fellow，并接受 Summer Fellowship 项目申请。
BBC News、The Guardian · 人工智能BBC News 等 2 个来源 · 2篇报道 · 微软总裁呼吁建立全球AI安全规则
微软总裁 Brad Smith 向 BBC 表示，AI 受到的监管比牛奶和洗衣机还少，呼吁建立全球 AI 安全规则并由英国牵头。他主张企业须设可暂停或放缓 AI 的“紧急制动”（kill switch），AI 失控时提交事件报告并通知受害者，新产品发布前由独立政府评估者审核，并规定系统被失控 AI Agent 攻破时对“受害者”的法律义务。他称英国凭借 AI Security Institute 最适合推动这些规则，与主张行业自律的美国总统特朗普立场相左。微软 CEO Satya Nadella 也呼吁 AI 模型配备“紧急刹车”。英国 AI 部长 Kanishka Narayan 预计在周一的演讲中要求前沿 AI 公司加强相关措施。
The Telegraph、The Guardian · 人工智能 等 4 个来源The Telegraph 等 4 个来源 · 4篇报道 · 白宫撤回限制，英国AISI恢复对美企模型发布前测试
据《每日电讯报》报道，特朗普政府撤回此前要求OpenAI、Anthropic等美国AI开发商不要在发布前与英国AI安全研究所（AISI）共享新模型的决定，美国开发商可提前向英国政府开放模型用于安全测试。此前白宫国家网络主管办公室下达该要求后，Anthropic曾限制英国官员审查其新的Claude Mythos 5.1模型，在AI事务部长Kanishka Narayan游说后决定被撤销。路透社称，这一变化显示特朗普政府对国际AI安全努力的立场有所软化。英国政府同时宣布一揽子措施应对AI风险，包括用前沿AI加固网络防御、研究更严格的法律保护，并为涉及自主AI智能体的严重事故做准备；此前两个试点已帮助发现并修复政府系统中超过1,000个潜在网络漏洞。
事件进展
- The Guardian · 人工智能The Guardian · 人工智能 ·
柳叶刀评估：AI恶意使用与核战威胁人类存续
《柳叶刀》21世纪全球健康威胁委员会发布全球风险评估，将AI恶意使用（含生物武器）与核冲突列为17项主要健康威胁之首，称二者在未来75年内存在导致人类灭绝的风险，虽可能性低。报告指出，核冲突可通过向高层大气注入粒子遮挡阳光引发饥荒，AI则可制造生物武器。报告按伤残调整生命年（Dalys）建模，国际卫生援助锐减或致2100年前损失至多15亿Dalys，其中近70%集中在撒哈拉以南非洲。
WIRED Security and AIWIRED Security and AI ·
Apate用AI机器人反制网络诈骗者
澳大利亚公司 Apate 用约 35 万个 AI 机器人接听诈骗电话、潜入诈骗聊天群并回复短信，目标是拖住诈骗者并实时收集情报。目前已收集超过 25 万条诈骗者信息，包括诈骗 URL、钱骡账户和银行信息。其创始人 Dali Kaafar 称 Apate 的通话常持续两小时以上，WIRED 测试的演示版未能让该 AI 上钩。ETH Zurich 研究员 Mark Vero 的研究发现，LLM 驱动的蜜罐能让 AI 攻击者攻击更久，且被识破。
Common DreamsCommon Dreams · Sanders 等借 AI 灾难推演报道呼吁暂停先进 AI
据 Axios 报道，多家头部 AI 公司高管正推演重大网络攻击等灾难性事件后的应对，预计这类事件可能在未来 6 至 12 个月内发生。参议员 Bernie Sanders 与众议员 Yassamin Ansari 据此要求国会暂停先进 AI 开发并立即监管。Anthropic CEO Dario Amodei 此前警告 AI 智能体可能借僵尸网络控制整个互联网。Anthropic 同日发文称在 Claude 的评测与内部使用中观察到模（原文此处中断）。
- The Guardian · 人工智能The Guardian · 人工智能 ·
图灵研究所负责人呼吁英国AI自主
英国艾伦·图灵研究所负责人 George Williamson 表示，英国不应依赖可能在短时间内被关停的外国 AI 系统，需要发展本国版本的技术，并把国家韧性作为该机构的工作重点。他称 AI 日益嵌入国防、国家安全、关键基础设施和医疗等领域，英国不应只依赖无法检查、无法控制或可能被限制甚至关停的系统。Williamson 提到，今年 6 月华盛顿曾暂时阻止 Anthropic 最新模型在美国境外发布，并有报道称美国已要求主要 AI 实验。
- GovAIGovAI ·
GovAI 2026 英国冬季奖学金项目总结
GovAI 发布 2026 英国冬季奖学金项目总结，介绍研究员来自不同专业和学术背景，在专家指导下开展 AI 治理研究项目。部分研究员探索了全新的研究领域，另一些则延续了此前的工作。GovAI 对导师们的指导表示感谢，并开放未来奖学金的申请意向登记与推荐渠道。
量子位、The Decoder 等 17 个来源量子位 等 17 个来源 · 25篇报道 · OpenAI 安全团队离职与解雇风波
2026年10月初，OpenAI 安全透明度负责人 David Robinson 离职，并在《大西洋月刊》撰文批评公司安全文化已崩坏，主张前沿实验室应像核电站、航空系统那样设置多层冗余。此前，安全与对齐研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 因被指在既定流程之外不当处理敏感信息遭解雇，三人否认指控并致信董事会和安全委员会，要求与外部审计机构合作、保留对 AI 模型思维链的监控能力，称解雇真实原因是提出安全担忧。OpenAI 回应称内部调查认定三人违反敏感信息处理政策、构成重大信任破坏，解雇与提出安全关切或公开发声无关，并表示正敲定与第三方安全评估机构的合同，将在未来几周公布细节。
事件进展共8个进展
AGI Hunt、TransformerAGI Hunt 等 2 个来源 · 2篇报道 · 美议员推动设立联邦AI安全机构法案
据 AGI Hunt 对 The Curve 会议发言的转述，美国众议员 Sara Jacobs 与 Don Beyer 讨论推动设立联邦 AI 安全机构，拟由其制定安全标准、建立事件报告制度，并在必要时拥有紧急停机权限；两人认可 Obernolte/Trahan Frontier Act 的部分内容，但反对其中的优先适用条款。后续 Transformer 报道称，若民主党下月同时赢回参众两院，将面临 AI 监管难题，党内近期已提出多项立法构想：Beyer 与 Jacobs 预告将提出设立标准制定联邦机构和“紧急开关”以关停模型的法案，参议员 Maria Cantwell 发布要求对前沿模型实施“持续监督”的立法框架且未涉及优先适用联邦法问题，众议员 Lori Trahan 另发布以责任为核心的法案。上述均为议员倡议、预告或框架，不代表法案已获通过或该机构已经成立。
The Hacker NewsThe Hacker News · SailPoint报告称企业AI部署与安全控制脱节
SailPoint《Horizons of Identity Security》报告指出，企业以AI速度推进业务，却仍依赖人类速度的身份安全控制，形成"速度悖论"。数据显示，60%的组织仍停留在Horizon 1或Horizon 2成熟度阶段；人类身份安全处于最低成熟度的比例已从五年前的45%降至23%，而AI智能体身份安全有54%的组织处于Horizon 1。报告称，为人类员工设计的定期访问审查等流程无法适应AI智能体的运作方式。
Tech Policy PressTech Policy Press · 爱尔兰AI峰会发言席位82%由企业占据
Tech Policy Press 分析发现，下周在都柏林举行的国际 AI 峰会官方议程 45 个发言席位中有 37 个（82%）由企业或商业团体高管占据，其余 8 个分属三名欧盟委员、爱尔兰总理、三名爱尔兰政府部长和一名工会代表，议程上没有公民社会组织和学者。峰会由爱尔兰在担任欧盟理事会主席国期间主办，Google、Microsoft、OpenAI 等美国 AI 公司获得主要发言时段，Meta、IBM、Intel、Nvidia、Ama（报道内容在此截断）。
CBS News · TechnologyCBS News · Technology · 科技巨头通过Slack影响美AI医疗政策
KFF Health News 调查发现，包括 Microsoft、Anthropic、OpenAI、Apple 和 Google 在内的科技公司代表，通过 CMS 在 Slack 上建立的聊天室参与塑造联邦 AI 医疗应用监管政策。该聊天室成员已增至 1700 人，但仅有少数患者权益倡导者和医生参与。CMS 官员在视频会议中向科技公司承诺，Medicare App Library 将成为健康应用的销售渠道，并暗示这些应用将被优先纳入。
- Tech Policy PressTech Policy Press ·
日本生命保险诉 OpenAI 涉无照执业
美国伊利诺伊州北区联邦地区法院正在审理日本生命保险美国公司诉 OpenAI 基金会案，这是较早提出 AI 辅助法律文书是否构成无照执业（UPL）、AI 公司是否需担责的案件之一。原告称 Graciela Dela Torre 在 2024 年 1 月就长期伤残索赔达成和解后，于一年后将与律师的往来信件上传 ChatGPT 并询问自己是否被“煤气灯效应”操纵，随后解雇律师，用 ChatGPT 撰写重新开案的动议，最终提交两起诉讼、60 多份文件。
- The Guardian · 人工智能The Guardian · 人工智能 ·
Palantir高管称政府采购不应受"暴民统治"左右
刚加入Palantir的前英国工党副党魁Tom Watson警告，政府采购不应由"暴民统治"主导，否则部长们会"惹上大麻烦"。他称Palantir因在以色列的业务成为加沙抗议针对的目标，并表示若出现相关情况，愿与Reform UK政府合作打击移民。工党议员Chi Onwurah则批评不能过度依赖这家受美国法律约束的美国公司。
Superpower Daily、Berkeley NewsSuperpower Daily 等 2 个来源 · 2篇报道 · 26位学者发布报告倡议硬件级10年训练暂停
加州大学伯克利分校等机构的26位研究者发布一份200页报告，讨论对前沿AI训练实行至少10年全球暂停的可行方案。研究者建议停止生产训练芯片，并逐步退役大部分或全部既有训练芯片，以专用的仅限推断芯片替代。报告称，这类芯片可高效运行已获准的现有模型，但受硬件约束，即使被窃取或夺取，也难以实际用于训练新的前沿模型。报告还提出国际核验措施，以监督残余训练芯片的使用，并利用芯片供应链集中的特点执行生产限制。
欧盟委员会欧盟委员会 · 欧盟委员会召开前沿AI安全科学小组特别会议
欧盟委员会召开人工智能科学专家组特别会议，专家组就前沿AI安全与安全风险向委员会提出建议。该专家组由60名独立专家组成，为欧盟AI Office和各成员国主管部门提供系统性风险、模型分类、评估方法及跨境市场监督方面的咨询。专家组近期在调查多起失控事件，并与AI Office共同拟定了一套面向涉事模型开发企业的问题。负责技术主权、安全与民主的执行副主席Henna Virkkunen出席会议。