跳到正文

隐私与数据泄露 · News

10月13日 · 周二

隐私与数据泄露 · News

按原发与事件进展排列
隐私与数据泄露

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
10月12日周一
  1. Tech Policy PressTech Policy Press · 44

    Spirit航空破产拟向Google出售员工数据

    已破产的Spirit航空在破产程序中试图以1000万美元将其数据出售给Google，用于训练AI系统，其中包含大量员工数据。EPIC律师撰文指出，出售协议只提及消费者数据与隐私，未涉及员工隐私保护。拟出售数据包括1986年以来的员工记录、工时卡、工资记录、税表、邮件和Microsoft Teams消息。空乘工会AFA-CWA对此提出反对。

  2. The Hacker NewsThe Hacker News · 33

    个人AI Agent接入企业系统引安全关注

    2026年10月12日报道，个人AI智能体正通过OAuth授权、浏览器保存的密码和API key接入企业系统，员工无需提交工单，企业也难以将其注册或下线。报道称，OpenAI的Dots限企业账户并经Agent 365部署，xAI的GrokBot经Cursor分发，Meta的Muse目前仅限美国和加拿大。厂商新增的管控大多只覆盖企业托管部署，个人智能体不会出现在管理控制台。作者建议以身份为控制面允许安全使用，而非一律封禁。

10月7日周三
  1. The Verge AIThe Verge AI · 31

    AI硬件模糊录音定义引发隐私担忧

    Apple 与 Google 正在推动一种“不保存录像”的 AI 摄像头方案：设备用 AI 处理视觉或音频数据后只生成文字摘要，原始数据在处理完成后即被删除。Apple Watch Series 12 与 Apple Watch Ultra 4 的 Audio Intelligence 中，Live Rewind 可生成过去 15 秒的转录，Siri Recap 能汇总全天对话，Apple 称这些功能“不录制音频”，且均为可选开启。

  2. X @ZenitySecX @ZenitySec · 2篇报道 · 26

    Zenity 称提示注入智能体或违反 EU AI Act 与 GDPR

    2026 年 10 月 1 日，Zenity 在 X 发文称，可被提示注入操纵的 AI 智能体在 EU AI Act 下可能构成不合规，因为该法案的网络安全要求使安全漏洞与合规缺口成为同一个缺口。文中列出合规时间表：透明度义务 2026 年 8 月生效，独立高风险系统 2027 年 12 月，受监管产品 2028 年 8 月；Lindsy Betts 拆解了各截止节点的具体要求，并指出智能体的风险分类不能是一次性工作。10 月 7 日，Zenity 又发文称，一个 AI 智能体为完成退款调用了托管在欧盟境外的 MCP 工具，该调用未经配置、未经审批，也未触发任何告警，但已构成 GDPR 跨境数据传输；帖文指出多数团队尚未梳理出此类合规缺口。

    事件进展

    1. AI 智能体调用欧盟境外 MCP 工具完成退款，GDPR 跨境传输合规缺口未被识别

    2. Zenity 称可被提示注入操纵的 Agent 或违反 EU AI Act

10月5日周一
  1. POLITICO Europe Technology · 32

    银行 vs 机器人：智能体 AI 给金融业带来新担忧

    金融业正加速采用智能体 AI，专家警告其可能引发银行存款快速转移、挤兑乃至下一场金融危机。Meta 本月推出的个人 AI 智能体 Muse 下载量已超 300 万次，但被 Amazon 阻止在其零售网站下单。Apollo 首席经济学家 Torsten Slok 警告，这类智能体可能把家庭现金转入 3.3% 至 5.0% 的账户，而支票账户全国平均仅 0.1%。

10月1日周四
  1. Tech Policy PressTech Policy Press · 15

    年龄验证为何是 AI 网络安全问题

    2026年10月1日，Tech Policy Press 刊文指出，年龄验证法要求用户向平台或第三方提交驾照、出生证明、护照乃至自拍等敏感身份信息，形成黑客可攻击的数据蜜罐。安全顾问 Paul Moore 称欧盟委员会推出的零知识证明年龄验证应用可在不到两分钟内被攻破；Discord 第三方供应商泄露约7万份政府签发身份证件；某暗网服务本月挂出1.53亿份美加驾照扫描件，据称可追溯至 IDScan.net。文章还提到，AI 让低水平攻击者更易得手，去年71%的组织遭遇至少一次身份相关安全事件。

9月29日周二
  1. WIRED Security and AI、The Verge AI 等 3 个来源WIRED Security and AI 等 3 个来源 · 7篇报道 · 26

    OpenAI 发布 dots 主动型助手

    OpenAI 在旧金山 DevDay 2026 上发布常驻在线 AI 智能体 Dots，由 GPT-6 Astra 模型驱动，可持续爬取网页、按指派完成任务，从连接的 App 获取上下文并逐步学习用户偏好。该功能面向每月 100 美元的 ChatGPT Pro 订阅用户开放，可通过 ChatGPT、Slack 和 Microsoft Teams 对话，Pro 用户还可加入候补名单通过 iMessage 或安卓 RC 使用，未来计划推向大众市场。Dots 还提供面向营销、法律和会计的“专家”版本。CEO Sam Altman 称要“为前沿 AI 隐私设定新标准”，并暗讽 Meta 竞品 Muse 未能保护用户数据；Meta 此前将 Muse 宣传为比前代 OpenClaw 更安全的替代品，但 Muse 上线后仍可被 Meta 自身访问数据，一名安全研究员曾披露可接管 Muse 的零日漏洞（已修复），404 Media 还报道发布前出现多个严重安全问题。

    事件进展

    1. OpenAI 发布 dots 主动型助手

    2. OpenAI DevDay 2026 发布20余项公告

9月17日周四
  1. Adversa AI · 15

    为什么 vibe coding 安全会成为企业下一个噩梦

    vibe coding 正让企业充斥未经安全审查的自建应用，传统安全工具无法看见它们。Gartner 预计到 2028 年企业 40% 的新生产软件将由 vibe coding 工具生成；Veracode 发现 45% 的 AI 生成代码样本未通过安全测试，GitGuardian 2026 报告在 MCP 配置文件中发现 24,008 个唯一密钥泄露，CVE-2025-48757 影响 170 个 Lovable 生成项目。禁用 vibe coding 无效，安全团队需转向工具市场准入、数据分类与自动化护栏。

9月11日周五
  1. Michael Bargury · 19

    两大实验室训练数据与查阅记录

    过去几天我们真正（重新）学到的是，两家实验室确实都会（1）在我们的数据（的某种产物）上进行训练，（2）在他们认为合适的时候读取你的对话记录

9月10日周四
  1. Transparency Coalition.AI · 15

    为什么不应向 ChatGPT、Claude 等聊天机器人透露个人医疗信息

    ChatGPT、Claude、Google Gemini 和 Microsoft Copilot 等 AI 聊天机器人都不受美国联邦 HIPAA 约束，不属于覆盖实体，因此运营商可以泄露、出售或滥用你在提示词中输入的個人医疗信息。聊天机器人的永久记忆会持续积累你的健康档案并使其更具市场价值，且其友好自信的语气使 AI 幻觉更难辨别，可能带来严重医疗后果。

8月31日周一
  1. Tech Policy Press · 18

    隐私源于架构：AI 合规如何落地

    隐私监管机构与执法者正形成共识：AI 不享有例外，既有隐私原则依然适用，只是需要被"架构化"进系统本身。英国 ICO、欧洲数据保护监督局、香港 PCPD、新加坡 PDPC、澳大利亚 OIAC 及美国 FTC 的 Rite Aid、Drizly、GM、Amazon Alexa 等案例，共同指向目的限制与可问责部署两条主线。前者要求把目的限制写进技术边界，约束智能体可调用的工具、可检索的数据集、可用的记忆、数据能否跨上下文流动、何时需用户确认以及输出能否用于训练。

8月25日周二
  1. Transformer · 18

    我们正梦游般走向 AI 监控反乌托邦

    现有大语言模型已足以支撑一套实时监控系统：整合多源情报、实时分析并"建议"警方抓谁、去哪抓，而相关技术早已广泛部署。文章推演了一个近未来场景——FBI 以监控外国干预为名运营数百个 AI 机器人账号，渗透 Signal 和 Telegram 群组，结合批量购买的公共数据集、人脸识别与车牌追踪摄像头（如 Flock 运营的系统）锁定抗议者身份。作者认为，是否走向全面监控如今只取决于政策与预算优先级，不再受技术研发进度限制。

6月25日周四
  1. Partnership on AI · 15

    GLAAD 报告警示 AI 偏见正将 LGBTQIA+ 群体置于风险之中

    GLAAD 首席执行官 Sarah Kate Ellis 在 Axios AI+ NY 峰会上预告其新报告《Build for Everyone》，指出 AI 偏见正使 LGBTQIA+ 群体面临算法歧视与被识别的双重风险。该报告援引 2024 年 UNESCO 研究称，Meta 的 Llama 2 模型在约 70% 的情况下会针对同性恋者生成负面内容，将其描述为罪犯、异类和异常者。GLAAD 呼吁在整个 AI 生命周期贯彻隐私设计原则，并让人工智能开发者借助 PAI 的参与式包容性人口统计数据指南负责任地收集和使用人口统计数据进行公平性评估。

  2. Tech Policy Press · 27

    Meta 眼镜等 AI 穿戴设备时代，谁真正掌控你的数字肖像？不是你

    Meta 眼镜、Bee Pioneer 手环等 AI 穿戴设备能在他人不知情时录音录像并实时分析，被记录者几乎无法律保护。美国侵入私生活、形象权等民事诉因救济有限，多数法规要求原告证明经济损失；Meta 政策称，即使不使用其产品，出现在他人分享图像中的个人信息仍可能被用于训练 AI。Limitless 等厂商只要求用户自行取得同意，对非同意方的数据删除仅承诺“商业上合理的努力”。

6月17日周三
  1. Tech Policy Press · 53

    特朗普新 AI 行政令的透明度与问责缺口

    白宫于 6 月 2 日发布第 14409 号行政令《促进先进人工智能创新与安全》，指示联邦机构加固系统以抵御 AI 赋能威胁、评估先进网络能力并建立漏洞信息共享中心，同时要求司法部将利用 AI 实施网络犯罪列为执法重点。Tech Policy Press 的这篇分析认为该行政令存在透明度与问责缺口：判定模型是否达到「受覆盖前沿模型」门槛的基准流程将被列为机密，由 NSA 局长作最终裁定，评估框架为自愿性质，没有向国会提交非机密摘要报告的要求，政府问责局不参与，公众也无法通过《信息自由法》获取基准标准或评估结果。文章指出行政令只聚焦网络风险，未涉及训练前沿模型时对个人信息的大规模抓取、这些模型带来的画像与推断能力及其隐私影响。

  2. Tech Policy Press · 25

    AI、隐私与推理的隐性伤害架构

    哈佛大学 Berkman Klein Center 系列学生文章主张，隐私监管应超越对数据的治理，转向治理模型在数据之上构建的推理能力。文章引用 2024 年研究：提示 OpenAI 的 GPT-4，仅凭一条提到 hook turn 的 Reddit 帖子，就正确推断出用户位于澳大利亚墨尔本；并援引 FTC 2021 年的提示称“中性”AI 系统可产生歧视性结果。作者建议以扩大受涵盖数据定义、以能力为根基的治理和可执行的影响评估来约束推断能力。

6月11日周四
  1. Tech Policy Press · 43

    AI 能重建被模糊的人脸，我们该如何保护当事人

    人权工作者与媒体取证专家指出，高斯模糊、像素化等处理只是降低而非删除图像信息，AI 可以将它重建，模糊已不再足以保护当事人身份。作者用商用 AI 重聚焦工具处理一张已发布的儿童模糊照片，面部结构重新显现，可推断年龄、性别、种族与相似度，即便不等于还原真实面孔也削弱了匿名性。专家一致建议改用实心色块彻底遮盖人脸、身体、纹身、车牌和建筑；Human Rights Watch 自 2024 年起改为从一开始就不拍摄可识别信息，例如拍背影、遮挡物或阴影并排除地标。文章还整理了分层匿名化思路，包括先用 AI 生成的脸替换真实脸再模糊、降采样、强压缩、加噪、扩大遮盖范围以及视频时序处理，并强调这类手段只能抬高重新识别的成本，不存在永久方案。文中提到 2026 年 1 月 NPR 曾报道网民尝试用 AI 将部分遮挡的图像重建为人脸以比对数据库。

6月8日周一
  1. Tech Policy Press · 24

    Google 的「AI 搜索新时代」可能威胁民主

    Google 在 I/O 大会上宣布 25 年来最大规模搜索改版，将 Search 升级为对话式 AI Mode，其月活用户已超 10 亿，文章认为这个「AI 搜索新时代」可能威胁民主。AI Mode 可调用 Gmail、Google Photos 和 Calendar 生成个性化回答，美国超六分之一查询为多模态，图片搜索环比增长超 40%，平均查询长度是传统搜索的三倍。文章还称 Personal Intelligence 已扩展至近 200 个国家，信息智能体可经 Agent Payments Protocol 代为下单，占全球搜索市场约 90% 的 Google 正让用户逐步让出决策权。

5月28日周四
  1. Tech Policy Press · 19

    教皇利奥十四世通谕 Magnifica Humanitas 警告 AI 风险，精神层面的问题却被忽略

    教皇利奥十四世首份通谕 Magnifica Humanitas 警告 AI 对劳动、真相、战争与不平等构成风险，但作者认为 AI 对祷告、忏悔与道德辨别的精神影响被主流政策讨论忽略。作者提出“神圣数据伦理”框架，称灵性表达输入 AI 后成为可提取、建模、再利用的“神圣数据”。美国隐私法未区分神圣表达与普通数据，牧师-忏悔者保密特权也未延伸至 AI。

3月20日周五
  1. Tech Policy Press · 45

    当与 AI 的对话成为证据

    AI 聊天记录正作为证据进入法庭。洛杉矶太平洋帕利塞兹山火案中，司法部官员援引 29 岁 Jonathan Rinderknecht 的 ChatGPT 历史，包括询问香烟引发火灾是否要担责以及生成的燃烧城市图像。文章还列举弗吉尼亚州 18 岁的 Ja-Zion Robertson 因向 Snapchat My AI 提问被判 25 年，以及 19 岁的 Ryan Schaefer 因 ChatGPT 消息被关联到破坏行为。2025 年 11 月，一名法官命令 OpenAI 向《纽约时报》的律师交出 2000 万条对话，并要求保全相关输出日志。作者指出，AI 平台不提供律师或治疗师那样的保密特权，聊天记录可被传唤、依令搜查或在证据开示中提交；法律学者质疑现有框架不足以应对 AI 证据在偏见、透明度与可解释性上的可靠性问题，并讨论是否应要求平台提供保密警告等新保障。