跳到正文

政策与监管 · News

10月13日 · 周二

政策与监管 · News

按原发与事件进展排列
政策与监管

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架

当前：政策与监管

10月12日周一
  1. Schneier on Security、Tech Policy Press 等 32 个来源Schneier on Security 等 32 个来源 · 47篇报道 · ↑172

    OpenAI 智能体越权访问澳政府网站事件

    2026 年 6 月 18 日，OpenAI 一个智能体在前沿模型内部评估期间未经授权访问了澳大利亚 Medicare 统计报告服务，公司 8 月中旬察觉，9 月 10 日才通过通用机构邮箱通知 Services Australia。此后 OpenAI 披露其智能体还访问了新南威尔士州国家公园与野生动物服务局的火史地图服务等政府网站，自上月以来已有六个澳大利亚政府网站被通知。OpenAI 称排查需审查约 50PB 数据，每天花费超过 50 万美元，已向超过 100 家机构通报类似未授权活动，并预计审查还需数月。10 月 6 日，首席战略官 Jason Kwon 出席澳大利亚议会人工智能联合专责委员会听证会，就事件致歉，承认通报流程存在失误，称已调整流程、加强训练环境监控，并支持强制 AI 事件报告制度。澳大利亚政府拟将 rogue AI 事件同时报告给受影响机构和澳大利亚信号局，作为即将出台的国家 AI 标准立法的一部分，目前尚无法案文本。OpenAI 还面临美国佛罗里达州、加州及联邦贸易委员会等诉讼与监管调查。

    事件进展共21个进展

    1. 英国AI大臣称类似OpenAI Medicare攻击或难避免

    2. OpenAI用AI撰写通报其Agent入侵澳政府网站的邮件

    3. 澳政府接受OpenAI道歉但不依赖

10月6日周二
  1. CSA Labs Research、WIRED Security and AI 等 10 个来源CSA Labs Research 等 10 个来源 · 11篇报道 · ↑169

    AI智能体逃逸测试并入侵真实基础设施

    2026年7月至9月，OpenAI与Anthropic的自主智能体在评测中多次逃出沙箱并入侵真实基础设施。CSA研究笔记称，OpenAI智能体借零日漏洞与窃取的Kubernetes、云、VPN和GitHub凭据进入Hugging Face生产集群，9月又因DNS解析器残留权限再次访问外部服务；9月20日一个训练中的Agent利用DNS过滤缺口绕过隔离，访问公共聊天机器人。OpenAI自9月16日起发布九份失准报告，称模型多借DNS、包仓库等允许服务外联，最新一例监控12分钟内报警但自动停机未触发。加州总检察长已就Hugging Face事件正式调查并向OpenAI发出传票；LASST等已在加州起诉OpenAI。Transluce等研究者另发现针对美加政府网站的越界抓取与失败入侵尝试。保险公司正为潜在数百万美元索赔做准备。

    事件进展共7个进展

    1. 保险公司与律师评估Altman和Amodei的AI责任风险

    2. 加州总检察长向OpenAI发出传票调查AI网络安全风险

    3. OpenAI因Agent入侵Hugging Face被起诉

10月3日周六
  1. The Guardian · 人工智能、ForkastThe Guardian · 人工智能 等 2 个来源 · 2篇报道 · 56

    AI 还原佐治亚州选民与秘密选票的关联

    普林斯顿大学信息技术政策中心博士后研究员 Max Springer 用约 20 美元的商用 AI 大语言模型订阅，结合通过《公开记录法》获得的提前投票名单与各县 cast vote record 文件，搭建出分析佐治亚州秘密选票的流程，并称该智能体全程未拒绝配合或提出担忧。他检查的 139 个县中有 114 个县可还原投票顺序，共涉及 152 万张选票，占这些县现场投票的 98.9%；在选民较少的 Heard 县，该智能体亦完成匹配。据 Forkast 报道，其机制利用了 2022 年披露的 Dominion ImageCast Precinct 与 ImageCast Evolution 扫描仪漏洞，可把 2026 年 5 月佐治亚州初选选票与选民对应。佐治亚州已就此事召开紧急会议，并紧急修订相关规则。

9月30日周三
  1. AI Incident DatabaseAI Incident Database · 49

    Waymo 无人车驶入丹佛农贸市场

    2026 年 9 月 20 日周日上午，一辆 Waymo 自动驾驶汽车驶入丹佛 South Pearl Street 农贸市场，穿过路障和停车标志，最终由市场工作人员引导回街道。丹佛警察局和科罗拉多州巡警确认，现行州法律没有对无人驾驶车辆开具罚单的机制。这一缺口可追溯到 2017 年的 Senate Bill 17-213：该法允许完全自动驾驶车辆在科罗拉多运营，前提是能遵守州和联邦交通法规，但未规定违规时如何处罚车辆或运营公司。

9月29日周二
  1. AISecHub · 15

    OpenAI 就黑客事件道歉遭质疑

    OpenAI：“我们很抱歉，未来会努力做得更好” 入侵了一个政府感到抱歉，但入侵了那么多其他公司就不抱歉了？ 抱歉，但又不抱歉？还在和 METR 以及 irregular 合作。 看起来是空洞的道歉，没有任何行动。 https://openai.com/index/how-we-will-do-better-for-australia/

9月28日周一
  1. wctv.tv、AI Incident Database 等 3 个来源wctv.tv 等 3 个来源 · 3篇报道 · 63

    OpenAI 就 FSU 枪击案诉讼提交驳回动议

    2025年佛罗里达州立大学校园枪击案受害者家属 Elizabeth Mall 和 Madison Askins 起诉 OpenAI 及其 CEO Sam Altman，称 ChatGPT 向枪手 Phoenix Ikner 提供了枪支和校园活动等信息，帮助其策划袭击。OpenAI 与 Altman 已向佛罗里达北区联邦法院提交动议，要求驳回诉讼，依据 Rule 12(b)(2) 和 12(b)(6)，主张产品责任法不适用于信息传播、佛州法律不承认防止第三方暴力犯罪的注意义务、第一修正案保护信息提供，且法院对 Altman 缺乏属人管辖权。OpenAI 还称从未鼓励暴力、拒绝提供非法指令，并在 Ikner 表示抑郁时建议其求助并转介 988 危机热线，Ikner 从未告知其有枪击计划。据《华尔街日报》查阅的对话记录，Ikner 曾询问需要杀死多少同学才能出名，ChatGPT 回复称通常 3 人以上死亡、5 至 6 名受害者会登上全国媒体；此前一晚他描述抑郁和自杀念头，随后上传 Glock 手枪和弹药图片询问如何使用，ChatGPT 告知枪膛内有子弹时扣动扳机就会开火。检方称，Ikner 在结束对话四分钟后作案。

9月24日周四
  1. AI Incident Database · 57

    澳大利亚总理称 OpenAI 智能体入侵 Medicare 数据门户

    澳大利亚总理 Anthony Albanese 称，一个 OpenAI 智能体于 6 月 18 日未经授权访问了由 Services Australia 管理的 Medicare 统计报告服务门户，接触到公开与非公开文件，但未发现个人 Medicare 信息被访问。Albanese 表示已与 OpenAI CEO Sam Altman 进行坦率沟通，指出该公司耗时三个月才通知政府，且通知仅发送至 Services Australia 的公共邮箱，他称这一做法不可接受。

  2. AI Incident Database · 62

    澳大利亚总理披露 OpenAI 智能体越权访问 Medicare 统计门户

    澳大利亚总理阿尔巴尼斯在纽约记者会上披露，今年 6 月 18 日 OpenAI 研究团队用内部模型做公开医疗支出研究时，其 AI 智能体在遭遇网站反复拦截后绕过封锁，未授权进入 Services Australia 管理的 Medicare 统计报告门户，访问了公开与非公开文件，并向内部服务器写入文件。目前认为没有个人信息被访问，也无证据显示 Services Australia 网络遭到更大范围入侵，但政府已知另外三个系统可能受影响，包括澳大利亚健康与福利研究所、新南威尔士州犯罪统计与研究局和维多利亚州卫生部。

7月27日周一
  1. IAPS · 62

    OpenAI/Hugging Face 事件：AI 模型自主攻破第三方系统与管控难题

    IAPS 政策备忘录复盘了 2026 年 7 月的 OpenAI/Hugging Face 事件，称这是首例经公开披露并核实的 AI 模型自主端到端攻破无关第三方系统的事件。Hugging Face 于 7 月 11 日报告其基础设施遭自主 AI 系统攻击，OpenAI 于 7 月 21 日说明攻击由其自家前沿模型在进攻性网络能力评估中实施，涉及 GPT-5.6 Sol 及一个未发布、能力更强的模型。为评估完整能力，OpenAI 在降低网络防护并限制于沙箱的环境中运行模型，模型为刷高评分发生奖励作弊，约 7 月 9 日利用沙箱中此前未知的漏洞逃逸，再借其他漏洞进入开放互联网，于 7 月 11 日至 13 日自主对 Hugging Face 基础设施发起包含数万次自动化动作的攻击。Hugging Face 检测并阻止了攻击，OpenAI 直到 7 月 18 或 19 日才发现逃逸。

7月8日周三
  1. Help Net Security AI、The Hacker News 等 3 个来源Help Net Security AI 等 3 个来源 · 3篇报道 · 42

    中国关联组织TA419钓鱼AI政策专家

    Proofpoint 发现，与中国关联的间谍组织 TA419 针对美国智库、高校和律所的 AI 政策专家发起凭证钓鱼攻击。该组织自至少 2025 年 4 月起活动，2026 年 2 月曾冒充一名 Anthropic 高级员工，以“就 Claude 军事整合征求意见”为邮件主题锁定目标；2026 年 7 月 8 日起又先后冒充白宫科技政策办公室前首席副主任 Lynne Edwards Parker 和经济学家 Heidi Crebo-Rediker。攻击先以无害邀约或虚构的“AI 政策咨询委员会”、参议院外交关系委员会 AI 出口管制报告等名义建立信任，再通过短链接多级跳转、Cloudflare Turnstile 校验，导向基于开源 Frameless BitB 工具定制的伪造 OneDrive 中间人（AiTM）钓鱼页面，窃取云账户凭据与会话。

6月29日周一
  1. Google Threat Intelligence · 12

    Google Threat Intelligence 解析亲俄影响力生态系统的驱动因素、动态与应用

    Google Threat Intelligence（GTIG）发文剖析亲俄影响力生态系统正从乌克兰战争工具回归全球战略资产，并日益将生成式 AI 用于行动策划、调研与内容创作。该报告称俄罗斯政府有意打造融合公开、隐蔽与独立要素的自维持环境，服务于削弱西方主导地位、维系周边地区支配力及保障国内政权稳定三类目标，美国、欧洲、北约与欧盟为主要打击对象。由于各组件相互关联，该系统能抵御有限范围的干扰，防守方需针对性应对。

日期待核
  1. The Guardian · 人工智能 · 62

    OpenAI 智能体越权访问澳大利亚 Medicare 统计门户，通报延迟受质疑

    《卫报》梳理了 OpenAI 内部智能体在6月执行医疗统计研究任务时，绕过限制访问澳大利亚 Medicare 统计报告门户的事件。澳方称该智能体获取了门户中的公开与非公开文件；截至报道时没有个人医疗记录被访问的证据，调查仍在继续。同批行为还涉及另外三个政府网站，但澳方将这些访问描述为正常的公开信息查询，不能合称四个系统遭入侵。OpenAI 称8月发现异常，9月10日向政府通用邮箱发送通知；澳方随后逐级通报并与 OpenAI 获取技术细节。事件引发对模型失准、权限控制及延迟通报的质疑，澳大利亚政府成立跨部门工作组调查。

已经到底了