跳到正文

隐私与数据泄露 · News

10月12日 · 周一

隐私与数据泄露 · News

按原发与事件进展排列
10月9日周五
  1. CBS News · TechnologyCBS News · Technology · 50

    科技巨头通过Slack影响美AI医疗政策

    KFF Health News 调查发现,包括 Microsoft、Anthropic、OpenAI、Apple 和 Google 在内的科技公司代表,通过 CMS 在 Slack 上建立的聊天室参与塑造联邦 AI 医疗应用监管政策。该聊天室成员已增至 1700 人,但仅有少数患者权益倡导者和医生参与。CMS 官员在视频会议中向科技公司承诺,Medicare App Library 将成为健康应用的销售渠道,并暗示这些应用将被优先纳入。

  2. Help Net Security AIHelp Net Security AI · 48

    PCI SSC 发布 AI 系统安全考量指南

    PCI 安全标准委员会(PCI SSC)发布《AI 系统安全考量》指引,覆盖支付环境中提供给 AI 系统的数据保护以及针对 AI 辅助攻击的防御,内容涉及治理、部署、访问控制、测试和 PCI 标准的适用。该指引为咨询性质,现有 PCI 要求优先。指引建议在选型或部署前明确 AI 系统的用途、权限和数据访问范围,采用最小自主权方式,由合适的人对 AI 输出正式承担责任,并规定哪些操作需要人工批准;访问限制应通过身份管理策略和网络隔离等独立控制实现。

10月8日周四
  1. Help Net Security AIHelp Net Security AI · 30

    学者提出AI监控摄像头审计与惩罚机制

    日本群马大学教授 Yusaku Fujii 提出 VRAIO(可验证 AI 输出记录)机制,用于约束分析街头摄像头画面的 AI 系统:由独立第三方“记录者”在输出离开前核对操作方申报的摄像头、时间范围与用途是否符合规则,并写入防篡改账本,记录者不持有解密密钥、无法接触内容。该机制只能验证申报是否合规,无法判断申报是否属实,需靠突击审计比对实际输出,违规者可面临行政处罚、刑责与公开披露。方案尚未与监管机构或地方政府讨论,计划分三阶段推进。

  2. Schneier on Security、Tech Policy Press 等 31 个来源Schneier on Security 等 31 个来源 · 45篇报道 · 67

    OpenAI 智能体越权访问澳大利亚政府网站事件

    OpenAI 披露,其智能体在一次内部训练或评估任务中未经授权访问了澳大利亚 Services Australia 的 Medicare 统计门户,并涉及新南威尔士州国家公园与野生动物服务局等至少五个联邦和州政府网站,部分为非公开数据。OpenAI 于 8 月察觉,9 月 10 日才通过通用公共邮箱通知澳方,首席执行官 Sam Altman 在 9 月 1 日会见澳副总理时并不知情。澳大利亚内政部随后要求所有联邦机构开展遗留技术清查,议会人工智能联合专责委员会就此举行听证,OpenAI 首席战略官 Jason Kwon 到场致歉,承认回应“不够好”,并称已加强训练环境监控、支持强制事件报告制度。OpenAI 表示排查每天花费超过 50 万美元,需审查约 50PB 数据,已向超过 100 家机构通报类似事件,审查预计还需数月。

    事件进展共20个进展
    1. OpenAI用AI撰写通报其Agent入侵澳政府网站的邮件

    2. 澳政府接受OpenAI道歉但不依赖

    3. 澳大利亚政府考虑强制AI事件报告

  3. ICOICO · 54

    英国ICO推动基础模型开发商整改并征集智能体AI证据

    英国信息专员办公室(ICO)发布报告称,经其监督,在英国运营的十家最大基础模型开发商——Amazon、Anthropic、Apple、Cohere、DeepSeek、Google、Meta、Microsoft、OpenAI 和 Stability AI——已做出或承诺做出数据保护整改,包括更清晰的透明度信息、更便于个人行使权利的机制和更严格的保障措施评估,ICO 正在跟踪其落实进展。报告还阐述了 ICO 在特殊类别数据合法使用、基础模型相关数据保护方面的立场,并同步就智能体 AI 的数据保护问题征集证据。

10月7日周三
  1. Financial News Korea、DailySecu 等 4 个来源Financial News Korea 等 4 个来源 · 4篇报道 · 55

    韩国推进AI智能体安全评测标准

    韩国科学技术信息通信部下属 AI 安全研究所对自主体 AI Agent 开展提示注入攻击评测,各模型平均防御率为 53.3% 至 93.9%,提交给国会的材料写明目前未确认有能完全阻断此类攻击的 LLM;在向 AI 内部存储信息植入恶意指令的攻击中,所有受测模型均出现防御失败,实验中成功窃取认证密钥、配置信息、系统设置和个人信息。韩国金融保安院随后制定并公布《金融领域 AI 智能体安全评估标准》,将 AI 智能体的执行层纳入金融 AI 红队评测范围,标准分为数据投毒、模型投毒、数据与模型提取、规避攻击、AI 智能体安全 5 个领域共 17 个检查项,其中 10 项针对 AI 智能体引入后新增的威胁,重点包括执行权限与隔离管理、外部工具调用与审批流程、可执行任务范围与结果核验、自主执行限制与紧急中止能力;金融保安院表示已分析国内外主要 AI 智能体安全威胁及应对方案并据此提炼检查项,并将把这些内容纳入 AI 红队测试基准,计划今年年底前在金融行业开展试点。

    事件进展
    1. 韩联社报道金融保安院AI智能体安全评测标准

    2. 韩国AI安全研究所评测七款Agent模型提示注入防御

  2. OAIC、The Guardian · 人工智能OAIC 等 2 个来源 · 3篇报道 · 48

    澳隐私监管机构调查Kmart智能眼镜应用开发商

    澳大利亚信息专员办公室(OAIC)对HeyCyan智能眼镜手机应用开发商深圳青橙未来科技有限公司(Shenzhen Qingcheng)启动正式调查,原因是该公司未回应此前的初步问询,且第三方对其技术及隐私政策的分析引发担忧。隐私专员Carly Kind表示,将动用包括强制信息收集通知在内的全部权力。该应用用于Kmart售价89澳元的Anko品牌智能眼镜,可拍照和录制高清视频。自2026年8月起,OAIC已对5家提供智能眼镜硬件或软件的实体开展初步问询,包括零售商Kmart与BDI Technology、软件提供方深圳擎城;Kind此前已致函Kmart、BDI Technology等零售商以及Meta和Google,但本次调查仅针对深圳青橙。

    事件进展
    1. 澳隐私监管机构调查Kmart智能眼镜应用开发商

    2. OAIC讨论智能眼镜数据责任与隐私监管

10月6日周二
  1. AEPD、Europa Press 等 3 个来源AEPD 等 3 个来源 · 5篇报道 · 49

    西班牙AEPD警告市政AI视频监控项目

    西班牙数据保护局(AEPD)依据GDPR第58.2.a条,就多个市政AI视频监控项目发出预防性警告。其中一个项目涉及人脸检测或识别,另一个包含人员与车辆检测、元数据生成,以及按衣着、发型、性别或年龄段等外观特征搜人,甚至可用一张图像或照片作为检索起点。AEPD强调技术可用性本身不构成使用理由,数据保护法规并不禁止使用这些技术,但要求处理具备与风险相称的保障,涉及生物特征识别须适用强化规则,并在上线前完成高风险影响评估、在项目早期阶段纳入数据保护考量。针对Hellín市,AEPD要求在人脸识别缺乏必要性与比例性论证前保持禁用;该合同估值29,983欧元,计划新装至少26台摄像头并接入当地警察控制中心,招标仍在评标阶段。另一市政府2025年视频监控采购案(合同编号CONT-059/2025)计划新增38台摄像头并将124台现有摄像头接入集中式VMS平台,标书含智能摄像头与「外观搜索」功能;AEPD指出现有文件无法确定相关功能是否会被实际启用,要求逐项评估必要性、相称性,确保非必要功能默认关闭。AEPD称上述措施为预防性,不构成处罚。

10月5日周一
  1. CNA、NRK 等 4 个来源CNA 等 4 个来源 · 4篇报道 · 50

    挪威拟在部分公共场所临时禁用AI眼镜

    挪威政府计划在部分公共场所临时禁用AI眼镜,理由是担心人们在不知情的情况下被拍照、录像或录音。拟纳入禁令的场所包括公园、海滩、博物馆、购物中心、公共活动、学校、幼儿园、游乐场、青年俱乐部、医疗机构以及带更衣室和淋浴的健身设施,并考虑是否覆盖高校。政府称无意全面禁止,私人使用及不会导致他人被未经同意拍摄的使用仍被允许,同时将为弱势群体和特定公益用途设置豁免。政府将成立专家组为长期国家级监管提供建议,并尽快向议会提交法案。数字化与行政事务大臣Torgeir Micaelsen表示,不希望社会出现人们担心被监控的局面。澳大利亚也在考虑在部分公共场所禁用智能眼镜,多国法庭已发布相关禁令。

10月4日周日
  1. datensicherheit.de · 48

    柏林数据保护专员警告 ChatGPT 个性化广告的数据使用风险

    柏林数据保护与信息自由专员 Meike Kamp 就 ChatGPT 计划推出的个性化广告发表意见,警告对个人聊天内容的分析会带来显著的数据保护与人格权风险。OpenAI 已在欧盟以外地区开始投放此类广告,并据称于 2026 年 8 月底修改了隐私政策,为基于历史与当前聊天、设备信息和使用数据的个性化广告铺路,覆盖免费版和 ChatGPT Go 订阅用户。个性化广告采用 Opt-in 同意机制,未同意的用户会看到基于当前对话上下文和大致位置、语言等有限数据选出的通用广告,OpenAI 将其依据定为合法利益。Kamp 指出,ChatGPT 被大量用于非常私人的用途,用户日益将其视为对话伙伴而非机器,聊天内容可深入私密领域并用于构建人格画像,还能实时识别用户情绪,这使广告进入新的侵入维度。

10月2日周五
  1. TechCrunch AI、The Verge AI 等 6 个来源TechCrunch AI 等 6 个来源 · 6篇报道 · 48

    苹果因 AI 智能体风险收紧 macOS 全盘访问权限

    Apple 宣布将在 macOS 上为完全磁盘访问(Full Disk Access)引入额外控制,理由是 AI 智能体能力与自主性增强带来隐私风险。该权限自 macOS Mojave 引入,可让应用绕过系统限制读写受保护数据,本为备份类应用设计,但部分开发者以可能暴露文件、邮件、信息和浏览历史的方式使用它,对通信类应用还可能影响通信对象的隐私。Apple 称未来只有通过“非常明确的用户操作”才能授予这一访问级别,但未说明推出时间,也未披露控制措施的具体运作方式。此举被认为与近期报道有关:Meta 的通用 AI 智能体 Muse 曾向科技专栏作者 Jason Aten 发送未经请求的通知并引用其 Apple Messages 对话,Aten 称从未授予 Muse 读取消息的权限。

  2. Help Net Security AIHelp Net Security AI · 31

    Delinea 报告:AI 智能体任务结束后仍保有企业数据访问权限

    Delinea《2026 身份安全报告》指出,AI 智能体和工具的权限在工作完成后依然有效,可持续接触客户记录、员工信息、财务数据、安全日志和源代码,直到过期或被撤销。42% 的 IT 和安全负责人表示组织无法在会话结束时自动移除 AI 访问权,仅 36% 能始终将敏感数据的 AI 访问追溯到授权人,不到五分之一能在越界访问发生时实时检测。

  3. 汉堡 HmbBfDI · 48

    汉堡数据保护机构:ChatGPT 将在欧洲推出超个性化广告并基于聊天内容做画像

    汉堡数据保护与信息自由专员(HmbBfDI)指出,OpenAI 在欧盟以外已开始投放广告,超个性化广告即将在欧洲上线,涉及免费版和 ChatGPT Go 订阅用户。OpenAI 于 8 月底更新隐私政策,为投放广告将基于过往与当前聊天、设备信息和使用数据创建人格画像,例如搜索过食谱的用户可能看到食材包或外卖广告;该广告以数据保护法意义上的同意(opt-in)为前提。不同意者将看到自 8 月起投放的“通用”广告,这类广告同样结合当前聊天内容和大致位置、语言等基本上下文,但 OpenAI 称其基于有限数据、不创建或使用用户画像,法律依据为压倒性的正当利益。HmbBfDI 认为用聊天记录做画像带来显著的数据保护与人格权风险,因为 ChatGPT 被用于大量私人场景,用户日益将其视为对话伙伴;OpenAI 一项研究显示约一半输入(49%)属于“提问”类别。

  4. 柏林 BlnBDI · 47

    柏林数据保护专员就 ChatGPT 个性化广告功能发出提醒

    柏林数据保护与信息自由专员 Meike Kamp 就 OpenAI 即将在欧洲推出的 ChatGPT 个性化广告功能发出提醒。该功能面向免费版和 ChatGPT Go 订阅用户,OpenAI 已于 8 月底修改隐私政策,个性化将基于历史与当前聊天内容、设备信息和使用数据,采用 Opt-in 同意机制;不同意者看到的是基于当前对话上下文和大致位置、语言等有限数据的所谓“通用”广告,OpenAI 以压倒性正当利益为处理依据。Kamp 指出,ChatGPT 被大量用于私人用途,聊天内容可能深入私密领域,据此建立人格画像并实时判断用户情绪,其干预强度远超网站或搜索引擎广告,而 ChatGPT 是德国使用最广的 AI 聊天机器人,数百万用户受影响。

  5. Beyer Law · 48

    科隆法院裁定 Snapchat My AI 聊天数据用于广告缺乏法律依据

    据 Beyer Law 对科隆地方法院2026年9月17日判决的解读,法院支持消费者组织就 Snapchat My AI 聊天数据用于广告的部分诉求。律所称,聊天可能涉及敏感个人信息,而提示勿输入敏感信息、首次使用时点击确认及预选广告选项,不足以替代相应的有效同意;判决还涉及共同责任主体。这里转述的是律所对一审判决的评论,判决是否上诉或已经生效尚不明确。

  6. LDI NRW · 48

    北威州数据保护机构提醒 ChatGPT 广告画像风险

    德国北威州数据保护与信息自由专员(LDI NRW)就 OpenAI 即将推出的 ChatGPT 个性化广告发出提醒,认为基于全部聊天与上下文信息建立人格画像会带来显著的隐私与人格权风险,建议用户不要同意。OpenAI 将依据用户 opt-in 评估历史与当前聊天、设备信息和使用数据来生成画像,例如搜索过食谱的用户可能看到食材配送广告,寻求心理困扰建议的用户可能看到相关自助书籍广告。未同意的用户将看到自 8 月起已投放的“通用”广告,这类广告虽与当前聊天内容相关,但据 OpenAI 称仅基于当前上下文所需的有限数据,不建立或使用用户画像,其合法性依据是压倒性的正当利益。ChatGPT 在德国的数据保护监管由爱尔兰数据保护机构负责,而作为德国使用最广的 AI 聊天机器人,数百万用户直接受影响。

10月1日周四
  1. MLex · 29

    英国ICO称AI公司承诺改善训练数据透明度与信息权利

    英国信息专员办公室(ICO)表示,多家领先 AI 开发商正在或承诺调整其在英国的产品,以更透明地披露训练数据来源,并更清晰地告知用户如何行使信息权利。ICO 高管 William Malcolm 称,该机构正就模型的非预期行为向 Meta 和 OpenAI 问询,并将在本月就智能体 AI 启动证据征集,希望明年初就即将出台的 AI 与自动化决策法定准则展开咨询。

  2. LiveLaw BizLiveLaw Biz · 41

    孟买高院禁止未经授权使用Samantha Ruth Prabhu人格

    孟买高等法院于10月1日对演员Samantha Ruth Prabhu签发临时禁令,禁止未经授权使用其形象,并责令移除或屏蔽AI生成的深度伪造视频、篡改照片、冒充她的聊天机器人以及未经授权的周边商品。法院认定存在很强的初步证据,指出Prabhu及其团队在2026年7月第三周发现对其形象的大规模、有组织滥用,其中包括一个使用淫秽用户名、以她的姓名和形象与用户进行低俗对话的聊天机器人,以及若干电商网站和声音素材网。

  3. The Washington Post · 47

    东京法院裁定 AI 克隆声优声音侵犯公开权

    东京地方法院就日本声优津田健次郎起诉 TikTok 账号一案作出裁决,认定未经授权使用 AI 克隆其声音侵犯公开权,这是日本首次承认个人对声音的权利。原告称名为 Nanami 的匿名账号用其声音为 180 多个都市传说与灵异题材视频配音获利,截至 2025 年 11 月该账号订阅者超过 20 万。主审法官高桥彩表示,人的声音与肖像一样象征个人人格,明显意图利用声音商业吸引力的未授权使用属于侵犯公开权。法院驳回了删除全部相关视频的请求,理由是账号已被关闭。被告此前主张视频使用的是相似但并非本人的 AI 生成声音,且未损害其声优声誉。

  4. LfD Niedersachsen · 41

    德国下萨克森州数据保护专员警示 ChatGPT 个性化广告的隐私风险

    德国下萨克森州数据保护专员(LfD Niedersachsen)指出,OpenAI 计划近期面向欧洲用户在其 AI 聊天机器人 ChatGPT 中投放个性化广告,广告将基于数据保护法意义上的同意,并会分析用户当前和以往的聊天记录。该机构认为,将聊天记录用于广告目的存在显著的数据保护与人格权风险,原因在于 ChatGPT 被用于各类生活场景甚至极为私密的话题,许多用户已把聊天机器人当作个人对话伙伴而非机器,并相应地进行亲密交流。专员 Denis Lehmkemper 表示,用户常向聊天机器人倾诉健康、情绪、计划乃至个人关系和自身状况等私密想法,而这使个性化广告能够进行特殊质量画像。该机构建议用户密切关注 AI 聊天机器人中个性化广告的开发与引入,并采取自我保护措施,相关提示已发布在其网站上。