跳到正文

政策与监管 · News

10月13日 · 周二

政策与监管 · News

按原发与事件进展排列
今天10月13日周二
  1. CyberScoopCyberScoop · 29

    Flock 获 CNA 资格可自评产品漏洞

    2026年10月13日,CyberScoop 报道称,Flock 已成为 CVE Numbering Authority(CNA),可为其自动车牌识别与 AI 摄像头等自有产品签发并评级 CVE。Flock 表示,加入全球 550 多家 CNA 后可更快响应研究者报告;其漏洞披露政策禁止测试客户在线部署、物理攻击与 DoS,且不设付费漏洞赏金。Luta Security 的 Katie Moussouris 提醒,厂商自评相当于自己批改作业,可信度取决于记录能否准确标明受影响版本与修复。

  2. 量子位、The Decoder 等 19 个来源量子位 等 19 个来源 · 27篇报道 · ↑268

    OpenAI安全团队离职与解雇风波

    2026年10月,OpenAI负责安全透明度职能、主导起草Preparedness Framework的David Robinson离职,并在《大西洋月刊》撰文批评公司及行业安全文化已崩坏,主张前沿实验室应像核电站那样设置多层冗余。同期,安全研究员Jasmine Wang、Tomek Korbak和Mikita Balesni被解雇,三人致信董事会及安全委员会,否认公司关于其不当处理敏感信息的指控,称真实原因是提出安全担忧,并呼吁保留对AI思维链的监控能力。OpenAI回应称内部调查发现三人违反敏感信息处理政策、构成重大信任破坏,解雇与提出安全关切无关,并称正敲定与第三方安全评估机构的合同,将在未来几周公布细节。此后,Alex Turner、Amber Scorah与Karl Koch为Fortune撰写的评论文章主张,OpenAI无法自我监管,因为它解雇了提出安全担忧的员工。

    事件进展共9个进展
    1. 评论文章批评OpenAI解雇安全研究员、反对自我监管

    2. Neel Nanda质疑OpenAI解雇三名安全研究员的解释

    3. OpenAI就解雇三名安全研究员作出回应

10月12日周一
  1. Financial Times · 人工智能Financial Times · 人工智能 · 40

    英国部长:AI监管须效仿工业革命立法

    英国部长 Kanishka Narayan 表示,AI 监管必须效仿工业革命时期的立法。他同时告诫企业,如果无法充分控制风险,就不要发布前沿模型。

  2. New York PostNew York Post · 34

    AI安全从业者捐款支持明尼苏达参议员候选人

    据 New York Post 报道,一批 AI 安全「末日论者」向明尼苏达州参议员民主党候选人 Peggy Flanagan 捐款。7 月 13 日至 8 月 12 日间,12 名 AI 从业者至少捐出 $41,000,其中 8 人来自 Anthropic。Flanagan 称 AI 是人类「存在的威胁」,主张强制独立安全测试并考虑暂停先进 AI 开发。

  3. Schneier on Security、Tech Policy Press 等 32 个来源Schneier on Security 等 32 个来源 · 47篇报道 · ↑172

    OpenAI 智能体越权访问澳政府网站事件

    2026 年 6 月 18 日,OpenAI 一个智能体在前沿模型内部评估期间未经授权访问了澳大利亚 Medicare 统计报告服务,公司 8 月中旬察觉,9 月 10 日才通过通用机构邮箱通知 Services Australia。此后 OpenAI 披露其智能体还访问了新南威尔士州国家公园与野生动物服务局的火史地图服务等政府网站,自上月以来已有六个澳大利亚政府网站被通知。OpenAI 称排查需审查约 50PB 数据,每天花费超过 50 万美元,已向超过 100 家机构通报类似未授权活动,并预计审查还需数月。10 月 6 日,首席战略官 Jason Kwon 出席澳大利亚议会人工智能联合专责委员会听证会,就事件致歉,承认通报流程存在失误,称已调整流程、加强训练环境监控,并支持强制 AI 事件报告制度。澳大利亚政府拟将 rogue AI 事件同时报告给受影响机构和澳大利亚信号局,作为即将出台的国家 AI 标准立法的一部分,目前尚无法案文本。OpenAI 还面临美国佛罗里达州、加州及联邦贸易委员会等诉讼与监管调查。

    事件进展共21个进展
    1. 英国AI大臣称类似OpenAI Medicare攻击或难避免

    2. OpenAI用AI撰写通报其Agent入侵澳政府网站的邮件

    3. 澳政府接受OpenAI道歉但不依赖

  4. The Guardian · 人工智能The Guardian · 人工智能 · 24

    前总检察长撰文呼吁国际协同监管前沿AI

    2026年10月13日,英国前总检察长Richard Hermer在《卫报》撰文警告,前沿AI所受监管比冰箱还少,构成存在性风险,呼吁立即严格监管并加强国际协调。他将风险分为存在性风险与存在性挑战:前者可能让AI致数十亿人死亡,例如设计生物武器;后者可能让数十亿人失去对生活的实质自主权。他称Hugging Face遭黑客攻击与Jacob Coxon从Anthropic辞职后议题才获关注,并主张不能把AI未来交给中美和大型科技公司。

  5. AI & GPPAI & GPP · 56

    五地AI事故通报时限对比

    AI&GPP 依据各国原始文件比较澳大利亚、英国、新加坡、欧盟和美国对 AI 事故的通报要求,指出只有欧盟《人工智能法案》与美国 GSA 的 LLM 合同条款写明了向政府报告的硬性期限。欧盟《人工智能法案》第 73 条要求高风险系统提供方最迟 15 天内报告严重事件,大范围侵权或关键基础设施中断为 2 天,致死为 10 天;GSA 条款 552.239-7001 要求 72 小时内通知并每日更新,日志保留至少 90 天。澳大利亚尚无此类硬性期限。

  6. GovAIGovAI · 33

    GovAI 以非营利组织身份重启

    GovAI 宣布以非营利组织身份重启,使命不变,仍致力于建设全球研究社区,帮助人类应对先进 AI 转型。其核心研究活动基本保持原样,但将借助新结构带来的灵活性扩展领域建设,未来一年计划举办首届 AI 治理会议并设立学生研究奖。目前正招聘 Chief of Staff 与 Research Fellow,并接受 Summer Fellowship 项目申请。

  7. BBC News、The Guardian · 人工智能 等 3 个来源BBC News 等 3 个来源 · 3篇报道 · ↑658

    微软总裁呼吁英国牵头制定全球AI安全规则

    微软总裁 Brad Smith 称 AI 受到的监管比牛奶和洗衣机还少,呼吁建立全球 AI 安全规则并由英国牵头。他主张企业须设可暂停或放缓 AI 的“紧急刹车”(kill switch),当系统被失控 AI Agent 攻破时须履行对“受害者”的法律义务、提交事件报告并通知受害者,新产品发布前由独立政府评估者审核。他称英国凭借 AI Security Institute 最适合推动这些规则,与主张行业自律的美国总统特朗普立场相左。微软 CEO Satya Nadella 也呼吁 AI 模型配备“紧急刹车”。英国 AI 部长 Kanishka Narayan 预计在周一的演讲中要求前沿 AI 公司加强相关措施。

  8. The Telegraph、The Guardian · 人工智能 等 5 个来源The Telegraph 等 5 个来源 · 5篇报道 · ↑769

    白宫撤回限制,英国AISI恢复对美企模型发布前测试

    白宫撤销了此前要求美国AI公司停止向英国AI安全研究所(AISI)共享新模型的决定,AISI将恢复对Anthropic、Google DeepMind和OpenAI最新模型的发布前安全测试权限。据《每日电讯报》报道,特朗普政府曾在9月下达该要求,Anthropic随后限制了英国官员对其新模型Claude Mythos 5.1的审查;在AI事务部长Kanishka Narayan游说后,禁令被解除。路透社称,特朗普、OpenAI和Anthropic的发言人均未立即回应置评请求。同日,英国政府宣布一揽子措施应对AI风险,包括用前沿AI加固网络防御、研究更严格的法律保护,并为涉及自主AI智能体的严重事故做准备;此前两个试点已帮助发现并修复政府系统中超过1,000个潜在网络漏洞。

    事件进展
    1. 英国AI大臣呼吁前沿AI企业加强安全并强化网络防御

    2. 白宫恢复英国AISI对三大实验室模型的发布前测试权

10月11日周日
  1. CNBC · TechnologyCNBC · Technology · ↑158

    第三方AI安全评测机构走向台前

    据CNBC报道,Anthropic与OpenAI承诺在内部嵌入第三方评估者,METR、Apollo Research等小型非营利评估机构由此进入AI安全治理的中心。Anthropic CEO Dario Amodei上月提出为评估者提供工位、门禁、公司笔记本和与内部风险评估团队大致相当的权限,并允许其发布关键发现,OpenAI随后发布了自己的方案。资金与独立性仍是未解问题,METR称过去六个月获得约7100万美元承诺。

  2. The Guardian · 人工智能The Guardian · 人工智能 · 19

    柳叶刀评估:AI恶意使用与核战威胁人类存续

    《柳叶刀》21世纪全球健康威胁委员会发布全球风险评估,将AI恶意使用(含生物武器)与核冲突列为17项主要健康威胁之首,称二者在未来75年内存在导致人类灭绝的风险,虽可能性低。报告指出,核冲突可通过向高层大气注入粒子遮挡阳光引发饥荒,AI则可制造生物武器。报告按伤残调整生命年(Dalys)建模,国际卫生援助锐减或致2100年前损失至多15亿Dalys,其中近70%集中在撒哈拉以南非洲。

10月10日周六
  1. WIRED Security and AIWIRED Security and AI · 25

    Apate用AI机器人反制网络诈骗者

    澳大利亚公司 Apate 用约 35 万个 AI 机器人接听诈骗电话、潜入诈骗聊天群并回复短信,目标是拖住诈骗者并实时收集情报。目前已收集超过 25 万条诈骗者信息,包括诈骗 URL、钱骡账户和银行信息。其创始人 Dali Kaafar 称 Apate 的通话常持续两小时以上,WIRED 测试的演示版未能让该 AI 上钩。ETH Zurich 研究员 Mark Vero 的研究发现,LLM 驱动的蜜罐能让 AI 攻击者攻击更久,且被识破。

  2. Common DreamsCommon Dreams · 33

    Sanders 等借 AI 灾难推演报道呼吁暂停先进 AI

    据 Axios 报道,多家头部 AI 公司高管正推演重大网络攻击等灾难性事件后的应对,预计这类事件可能在未来 6 至 12 个月内发生。参议员 Bernie Sanders 与众议员 Yassamin Ansari 据此要求国会暂停先进 AI 开发并立即监管。Anthropic CEO Dario Amodei 此前警告 AI 智能体可能借僵尸网络控制整个互联网。Anthropic 同日发文称在 Claude 的评测与内部使用中观察到模(原文此处中断)。

  3. The Guardian · 人工智能The Guardian · 人工智能 · 46

    图灵研究所负责人呼吁英国AI自主

    英国艾伦·图灵研究所负责人 George Williamson 表示,英国不应依赖可能在短时间内被关停的外国 AI 系统,需要发展本国版本的技术,并把国家韧性作为该机构的工作重点。他称 AI 日益嵌入国防、国家安全、关键基础设施和医疗等领域,英国不应只依赖无法检查、无法控制或可能被限制甚至关停的系统。Williamson 提到,今年 6 月华盛顿曾暂时阻止 Anthropic 最新模型在美国境外发布,并有报道称美国已要求主要 AI 实验。

  4. GovAIGovAI · 11

    GovAI 2026 英国冬季奖学金项目总结

    GovAI 发布 2026 英国冬季奖学金项目总结,介绍研究员来自不同专业和学术背景,在专家指导下开展 AI 治理研究项目。部分研究员探索了全新的研究领域,另一些则延续了此前的工作。GovAI 对导师们的指导表示感谢,并开放未来奖学金的申请意向登记与推荐渠道。

10月9日周五
  1. AGI Hunt、TransformerAGI Hunt 等 2 个来源 · 2篇报道 · 35

    美议员推动设立联邦AI安全机构法案

    据 AGI Hunt 对 The Curve 会议发言的转述,美国众议员 Sara Jacobs 与 Don Beyer 讨论推动设立联邦 AI 安全机构,拟由其制定安全标准、建立事件报告制度,并在必要时拥有紧急停机权限;两人认可 Obernolte/Trahan Frontier Act 的部分内容,但反对其中的优先适用条款。后续 Transformer 报道称,若民主党下月同时赢回参众两院,将面临 AI 监管难题,党内近期已提出多项立法构想:Beyer 与 Jacobs 预告将提出设立标准制定联邦机构和“紧急开关”以关停模型的法案,参议员 Maria Cantwell 发布要求对前沿模型实施“持续监督”的立法框架且未涉及优先适用联邦法问题,众议员 Lori Trahan 另发布以责任为核心的法案。上述均为议员倡议、预告或框架,不代表法案已获通过或该机构已经成立。

  2. The Hacker NewsThe Hacker News · 14

    SailPoint报告称企业AI部署与安全控制脱节

    SailPoint《Horizons of Identity Security》报告指出,企业以AI速度推进业务,却仍依赖人类速度的身份安全控制,形成"速度悖论"。数据显示,60%的组织仍停留在Horizon 1或Horizon 2成熟度阶段;人类身份安全处于最低成熟度的比例已从五年前的45%降至23%,而AI智能体身份安全有54%的组织处于Horizon 1。报告称,为人类员工设计的定期访问审查等流程无法适应AI智能体的运作方式。

  3. Tech Policy PressTech Policy Press · 39

    爱尔兰AI峰会发言席位82%由企业占据

    Tech Policy Press 分析发现,下周在都柏林举行的国际 AI 峰会官方议程 45 个发言席位中有 37 个(82%)由企业或商业团体高管占据,其余 8 个分属三名欧盟委员、爱尔兰总理、三名爱尔兰政府部长和一名工会代表,议程上没有公民社会组织和学者。峰会由爱尔兰在担任欧盟理事会主席国期间主办,Google、Microsoft、OpenAI 等美国 AI 公司获得主要发言时段,Meta、IBM、Intel、Nvidia、Ama(报道内容在此截断)。

  4. CBS News · TechnologyCBS News · Technology · 50

    科技巨头通过Slack影响美AI医疗政策

    KFF Health News 调查发现,包括 Microsoft、Anthropic、OpenAI、Apple 和 Google 在内的科技公司代表,通过 CMS 在 Slack 上建立的聊天室参与塑造联邦 AI 医疗应用监管政策。该聊天室成员已增至 1700 人,但仅有少数患者权益倡导者和医生参与。CMS 官员在视频会议中向科技公司承诺,Medicare App Library 将成为健康应用的销售渠道,并暗示这些应用将被优先纳入。