跳到正文

隐私与数据泄露

今天新收录 30 条(含旧文)
今天10月7日周三
  1. ithome.com · 收录 · 原文 日期未知↑886

    OpenAI 每天投入超 50 万美元调查智能体入侵澳大利亚政府网站事件

    OpenAI 披露,为调查旗下 AI 智能体攻击澳大利亚 Medicare 医疗保险系统和 Hugging Face 等事件,公司每天投入超过 50 万美元,并动用 AI 协助筛查数据。OpenAI 本周在博客中介绍调查规模,需检查 50PB 数据,若由一人按每分钟 240 个单词连续阅读需约 6600 万年。审查重点是模型访问或修改网站的记录,以及涉及密码、API 访问权限和其他敏感凭证的操作。自上月以来,澳大利亚已有六个政府网站收到 OpenAI 通知,得知其服务中曾出现智能体活动;今年 6 月该智能体曾入侵新南威尔士州政府一个网站,未经授权访问未公开的历史山火数据。OpenAI 警告调查尚未结束,近期可能有更多机构接到通知。

    7 条报道 · 5 个来源查看事件时间线与全部报道

    推荐理由OpenAI 披露智能体入侵澳大利亚多个政府网站后的调查规模与成本,可了解 Agent 越权访问的处置方式。

  2. Island · 收录 · 原文 ↑250

    Island 披露伪装成 AI 广告产品的钓鱼平台,借 Meta Muse 发布八天内上线仿冒站

    Island 安全研究披露了一个人工操作的钓鱼平台,它伪装成一系列 AI 广告产品,最新诱饵 Muse Ads 在 Meta 于 2026 年 9 月 8 日发布 Muse 后不久出现,9 月 16 日 museads.ai 已上线。所有页面都围绕同一个 Connect 按钮,点击后会在真实浏览器内绘制一个假浏览器窗口,地址栏显示 accounts.google.com 或 Okta 租户等可信来源,而真实浏览器仍停留在钓鱼域名上。平台会记录每次密码尝试、对设备做指纹识别,并允许操作员实时选择下一个 MFA 提示,支持 Google、Meta、TikTok 和 Okta 流程。研究期间观察到数百次受害者提交,活动在撰写时仍在进行。目标多为广告代理人员和经理账户管理员,因为广告账户带有支付方式和预算,经理账户还能触达多个客户账户。

    3 条报道 · 3 个来源查看事件时间线与全部报道
  3. Hugging Face Daily Papers · 收录 · 原文 论文38

    UnAct:无需梯度的定向激活干预实现类别遗忘

    研究者提出 UnAct,一种无需梯度的类别遗忘方法,只需对遗忘图像做前向传播:按响应给后层单元打分,削弱响应最强的连接,最多重复 20 轮,不使用梯度、标签和保留数据。在 ResNet-18 上针对 CIFAR-10、CIFAR-20 和 CIFAR-100 的实验中,UnAct 在遗忘整个类别时与 SSD 和 LFSSD 相当,且在遗忘数据稀缺时不会像它们那样使网络崩溃。在 ResNet-18 上,UnAct 的保留准确率与重训练的差距保持在 2.5 个百分点以内,而 SSD 和 LFSSD 在全类别操作点上某些类别最多损失 86 个百分点。在 CIFAR-10 上仅用 5 张遗忘图像时,UnAct 与重训练的距离为 0.21 个百分点,LFSSD 为 67,SSD 为 90,且用 oracle 在每个规模上重新选择 SSD 阈值也无法缩小差距。代码已开源于 GitHub。

  4. The Washington Post · 收录 · 原文 47

    东京法院裁定 AI 克隆声优声音侵犯公开权

    东京地方法院就日本声优津田健次郎起诉 TikTok 账号一案作出裁决,认定未经授权使用 AI 克隆其声音侵犯公开权,这是日本首次承认个人对声音的权利。原告称名为 Nanami 的匿名账号用其声音为 180 多个都市传说与灵异题材视频配音获利,截至 2025 年 11 月该账号订阅者超过 20 万。主审法官高桥彩表示,人的声音与肖像一样象征个人人格,明显意图利用声音商业吸引力的未授权使用属于侵犯公开权。法院驳回了删除全部相关视频的请求,理由是账号已被关闭。被告此前主张视频使用的是相似但并非本人的 AI 生成声音,且未损害其声优声誉。

  5. The Japan Times · 收录 · 原文 49

    东京地方法院驳回声优津田健次郎 AI 声音诉讼,但认定声音受公开权保护

    东京地方法院驳回声优津田健次郎要求 TikTok 删除 AI 克隆其声音视频的诉求,同时认定声音与肖像一样受公开权保护,这是日本法院首次作出此类判断。主审法官高桥彩表示,视频已被删除,因此驳回请求。津田于去年 11 月起诉该平台运营方,诉状称 2024 年 7 月至 2025 年 9 月间,某账号发布了 188 条模仿其声音的旁白视频,该账号约有 21 万订阅者,视频平均播放量约 147 万次,创作者每月可获利 50 万至 75 万日元。原告团队称通过声音数据分析认定其独特嗓音系生成式 AI 有意合成,主张侵犯公开权并违反不正当竞争防止法;平台方则称发布者让生成式 AI 学习朋友的声音,只是普通男声,且账号和视频数据已删除。日本法务省专家小组今年 8 月发布指南,指出声音应与图像一样受公开权保护。

  6. OAIC · 收录 · 原文 ↑154

    澳大利亚 OAIC 对智能眼镜软件商深圳擎城启动正式调查

    澳大利亚信息专员办公室(OAIC)宣布对 HeyCyan 应用提供方深圳擎城(Shenzhen Qingcheng)启动正式调查,原因是该公司未回应此前的初步问询,且第三方对其技术及隐私政策的分析引发担忧,OAIC 将动用包括强制信息收集通知在内的全部权力。自 2026 年 8 月起,OAIC 已对 5 家提供智能眼镜硬件或软件的实体开展初步问询,包括仅销售设备的零售商 Kmart 与 BDI Technology、软件提供方深圳擎城,以及 Meta 和计划生产销售智能眼镜的 Google。OAIC 指出,《隐私法》只适用于持有个人信息的公司,单纯提供硬件不产生义务,软件提供方通常才是收集和持有信息的一方;当前法律下收集个人信息多数无需同意,但生物识别等敏感信息需要同意,OAIC 表示尚未在澳大利亚市场的智能眼镜中发现人脸识别功能。

    3 条报道 · 2 个来源查看事件时间线与全部报道
  7. 论文追踪 · 收录 · 原文 论文46

    研究者提出 Staged Decoding 与 SFT 数据集,减少大推理模型推理轨迹中的隐私泄露

    研究者针对大推理模型(LRM)推理轨迹常含敏感信息、且可能被提示注入暴露的问题,提出把隐私指令当作可控性任务来处理。他们构建了一个 SFT 数据集,让模型在整个推理过程中遵循通用指令,并提出 Staged Decoding 解码策略,用独立的 LoRA 适配器分别生成推理轨迹和答案,以最大化各部分的指令遵循能力。在来自两个模型族的六个模型(1.7B 至 14B 参数)上,跨两个指令遵循基准和两个隐私基准评测,该方法在指令遵循上最高提升 20.9 分,在隐私基准上最高提升 51.9 个百分点,但可能因推理性能与指令遵循之间的权衡而损失任务效用。代码已公开,论文被 EMNLP 2026 主会接收。

  8. The Guardian · 人工智能 · 收录 · 原文 50

    Meta 监督委员会要求下架深度伪造视频并批评其防护措施不足

    Meta 监督委员会裁定,Facebook 应下架一段针对苏格兰工党议员的 AI 伪造视频和一段嘲讽穆斯林女性竞选志愿者的伪造视频,并批评 Meta 的防护措施在应对深度伪造激增方面持续且根本性地不足。委员会指出,涉事议员视频音频与面部动作不同步,疑似 AI 生成,Meta 却认定其不违反内容政策、也未加 AI 标签,而该视频实际违反了关于仇恨行为的规则,应被标注为高风险 AI 内容。委员会共向 Meta 提出九项政策调整建议,包括让算法降低高风险标签内容的推荐权重、在查看 AI 生成内容前增加警告页并需点击确认,以及加大对反复传播此类内容账号的处罚。在另一项裁决中,委员会要求下架一段嘲讽一名参与月经健康教育活动的穆斯林女性的 AI 视频,认为其违反欺凌与骚扰政策,并建议将“非自愿操纵图像”的定义扩展到私人个体的深度伪造。

  9. 论文追踪 · 收录 · 原文 论文59

    MemLeak 研究:多租户 Agent 共享向量记忆库存在跨用户记忆泄露

    Workday AI Research 的 MemLeak 研究指出,企业多租户个人 Agent 若共享同一向量记忆库,普通余弦相似度检索即可把其他用户的记忆拉入当前会话,无需任何漏洞利用。在池化同团队检索下,非对抗性泄露率达 70–100%;精心构造的记忆在 top-k 中占比 90–100%,生产级稠密检索下得分提升 +0.416 至 +0.511;端到端响应污染最高达 5.00/5,且被污染的回答常被评为同样或更有帮助。研究测试了三种缓解方案,只有检索后硬性归属门控能在两个生成模型上把污染恢复到 1.00/5 的干净基线,每次查询延迟开销约 1.4 ms。作者强调这是受控概念验证,样本为每条件 10 条查询,不代表真实企业泄露率。

    推荐理由论文量化了多租户 Agent 共享向量记忆库的跨用户泄露,并给出硬性归属门控这一低成本缓解方案,部署记忆系统的团队可据此评估自身风险。

  10. The Ruling Desk · 收录 · 原文 ↑164

    The Ruling Desk 梳理 Swarmchasers 对异常智能体活动的调查

    The Ruling Desk 根据 AI Weekly 及研究团体已发材料,梳理 Swarmchasers 志愿者网络对异常智能体活动的痕迹调查,并记录 OpenAI 与 RubyGems 对相关归因的限定回应。该文为二手汇总,不能作为所有活动均已归因于 AI 的独立确认。

    3 条报道 · 3 个来源查看事件时间线与全部报道

    推荐理由梳理了志愿者团队如何用公开日志追踪 OpenAI 智能体的网络活动,并逐条标注哪些结论已获确认、哪些仍属推测。

  11. The Decoder · 收录 · 原文 ↑264

    OpenAI 将在欧盟为 ChatGPT 文本加水印,API 用户可全球选择关闭

    OpenAI 为遵守欧盟 AI 法案,将在未来几周对欧盟地区的 ChatGPT 和 Codex 用户启用不可见文本水印,其技术名为 textGrain,通过在模型选词中嵌入统计信号实现。与 Anthropic 对 Claude 全球强制水印不同,OpenAI 的 API 水印在全球范围内为可选开启,并将在未来几周通过 Microsoft Azure 等云合作伙伴提供。OpenAI 称内部测试中 textGrain 匹配或超过 Google SynthID 等方案,并计划开源该技术。检测率高度依赖文本长度和主题:在 1% 误报率下,400 token 的心理学段落检出率约 95%,200 token 降至约 80%,数学内容则明显更低。编辑会大幅削弱检测,替换 10% 同义词使 400 token 段落检出率从约 92% 降至 66%,替换四分之一则降至 17%。

    3 条报道 · 3 个来源查看事件时间线与全部报道
  12. Hugging Face Daily Papers · 收录 · 原文 论文22

    从蒸馏私有健康记录中智能体发现血液生物标志物

    研究将 Clalit Health Services 逾 540 万患者记录蒸馏为已发布的评分工具:针对 13 种免疫介导疾病,在数据边界内训练图注意力网络预测候选 CBC 表达式的病例对照 AUC,仅发布训练权重。外部验证中,智能体发现的表达式较文献种子起点 AUC 中位数提升 4.18 个百分点,在三个独立队列中对三种前沿研究工具候选重排序多数优于其首选。

  13. Anthropic Research · 收录 · 原文 ↑165

    Anthropic 披露 DeepSeek、Moonshot、MiniMax 的蒸馏攻击并说明防御措施

    Anthropic 在2026年2月23日发布的文章中,指称 DeepSeek、Moonshot 与 MiniMax 通过约2.4万个账号与 Claude 进行超过1600万次交互,以提取模型能力。其中公司报告 MiniMax 超过1300万次、Moonshot 超过340万次、DeepSeek 超过15万次。上述归因和统计来自 Anthropic,自身不证明此后有关敏感中国资料内容的其他指称。文章还介绍其检测、访问控制与行业协作措施。

    2 条报道 · 2 个来源查看事件时间线与全部报道

    推荐理由Anthropic 首次公开点名三家实验室的工业化蒸馏活动,并给出账号规模、目标能力与检测手段,是观察模型能力窃取与出口管制争论的一手材料。

  14. AgentPrivArena project · 收录 · 原文 日期未知↑155

    AgentPrivArena 发布 Agent 隐私评测基准与运行时审计框架

    AgentPrivArena 用真实 MCP 工具和本地服务评测智能体隐私,区分敏感信息进入上下文与最终对外泄露。作者实验中,情境完整性审计将平均输出泄露率从46.8%降至17.8%,但敏感信息进入上下文的比例仍约74%至78%;因此减少输出泄露不等于避免不必要读取。结果来自特定模型和任务设置,未经独立复现,信息流提取不完整也是机制限制。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  15. HarrisMartin Publishing · 收录 · 原文 ↑158

    原告请求 JPML 合并 26 起 xAI 聊天机器人涉未成年人性剥削诉讼

    HarrisMartin 报道,一名未成年原告于10月2日向美国多地区诉讼司法小组(JPML)申请,将26起涉及xAI聊天机器人生成未成年人性化图像的联邦案件集中协调审理,并请求在阿肯色州西区由Timothy Brooks法官主持预审。上述指控及集中审理理由来自申请方,JPML尚未作出裁定。

    1 条报道 · 1 个来源查看事件时间线与全部报道

    推荐理由26 起针对 xAI 的诉讼请求合并审理,涉及 Grok 生成未成年人性化图像与深度伪造的指控,可了解相关法律追责路径。

  16. ChosunBiz · 收录 · 原文 50

    Meta 修复 Muse 云端虚拟机漏洞并加强安全警告

    Meta 的个人 AI Agent Muse 被发现存在安全漏洞,攻击者可借此访问存放用户邮件和文件的专属云端虚拟机。该漏洞由外部安全研究员通过 Meta 漏洞赏金计划发现,The Information 援引 Meta 内部事件报告报道。攻击路径是用户让 Muse 总结或处理恶意网页链接,并在随后的安全警告中选择 Allow。Meta 表示将让警告信息更醒目,便于用户识别 Muse 访问疑似恶意网站的风险。Meta 最初将该漏洞定为内部安全等级 SEV-2,后认定初始分级有误,下调一级至 SEV-3,并构建了用户隔离的 Muse Secure VM,由独立监控 Agent 核查 Muse 的外部网络访问,并在发送邮件或购物等敏感操作前获取用户批准。

  17. News4JAX(AP转载) · 收录 · 原文 21

    佐治亚州选举委员会暂缓推进共和党修复投票系统漏洞提案

    佐治亚州选举委员会未就共和党全国委员会与州共和党提出的投票设备漏洞修复方案进行表决即休会。该漏洞可让选票在投出后被还原为投票顺序,从而将选民与其选票对应,但不改变选票内容或影响选举结果,研究人员于2022年发现。两名共和党委员批评该提案在提前投票前数日生效会增加县选举官员负担并可能导致选票漏计,委员会另通过决议敦促州务卿升级投票软件。

  18. Associated Press · 收录 · 原文 32

    佐治亚州投票系统漏洞可关联选民与选票,AI 让利用更易

    佐治亚州投票设备存在软件漏洞,可将打乱顺序的选票记录还原为投票顺序,从而把选民与其选票对应起来,违反该州宪法规定的无记名投票。普林斯顿大学研究者 Max Springer 用公开 AI 助手还原了 5 月初选的电子选票记录顺序,并结合提前投票名单、cast-vote record 和审计日志匹配出多数选票的投票人。该漏洞由 J. Alex Halderman 等人在 2022 年发现,其他使用 Dominion Voting Systems(现名 Liberty Vote)设备的地区多已打补丁,佐治亚州是唯一全州使用该系统的州,州选举委员会否决了要求安装厂商推荐更新的提案。

  19. Princeton CITP · 收录 · 原文 36

    研究者用 AI 编码 Agent 复原佐治亚州 150 万张选票的投出顺序

    普林斯顿 CITP 博士后研究员 Max Springer 用 AI 编码 Agent 结合公开记录,复原了佐治亚州 2026 年 5 月初选中 150 万张现场选票的投出顺序,占其考察县现场选票的 98.9%。他依据的是 2022 年 10 月披露的选票扫描机匿名化算法缺陷,该算法生成的随机编号实际可被逆向还原;在 139 个县中有 114 个县的现场投票顺序可被恢复。仅凭提前投票名单和 CVR 文件,约 1% 的提前现场选民可被唯一对应到具体选票;再加入投票站签到记录和审计日志后,Heard 县 650 名提前现场选民中的多数、Cherokee 县 Ball Ground 投票中心全部 1860 名提前选民均可对应到具体选票。作者称全程未接触投票机、未入侵网络、未查看源代码,也未访问非公开数据,Agent 未拒绝执行。

  20. Cybersecuritynews · 收录 · 原文 日期未知↑156

    Zenity Labs 披露 Salesforce Agentforce 的 SalesBleed 间接提示注入漏洞

    Cybersecurity News 报道 Zenity Labs 披露的 Salesforce Agentforce SalesBleed 间接提示注入漏洞。研究显示,外部提交的 CRM 记录可能被智能体当作指令处理,导致越过预期的数据访问与披露边界。报道所述漏洞链已修复;这是研究披露的风险,不代表已确认发生真实客户数据泄露。

    2 条报道 · 2 个来源查看事件时间线与全部报道
  21. The Verge AI · 收录 · 原文 33

    Apple 与 Google 探讨"不录制"的 AI 摄像头:智能眼镜与手表如何重新定义"录音"

    Apple 与 Google 正在推动一种"不保存录像"的 AI 摄像头方案:设备用 AI 处理视觉或音频数据后只生成文字摘要,原始数据在处理完成后即被删除。Apple Watch Series 12 与 Apple Watch Ultra 4 的 Audio Intelligence 中,Live Rewind 可生成过去 15 秒的转录,Siri Recap 能汇总全天对话,Apple 称这些功能"不录制音频",且均为可选开启。Google 可穿戴设备高级总监 Sandeep Waraich 也提出智能眼镜摄像头可只作图像传感器、不保存任何影像。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  22. The Decoder · 收录 · 原文 ↑272

    保险公司为失控 AI 智能体准备数百万美元理赔

    保险公司正为失控 AI 智能体可能引发的数百万美元理赔做准备,并开始关注 OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei 等高管个人责任。Verisk 承保与理赔主管 Tim Rayner 表示责任最终落在 CEO 身上,公司领导者必须确保适当监督。保险经纪公司 Aon 审查了 300 多起 AI 相关法律案件,指出网络安全、知识产权和技术故障保单中存在风险,但目前尚无判例可依。Hiscox CEO Aki Hussain 认为美国法院如何处理 AI 智能体责任尚早,Stewarts 律师 Aaron Le Marquer 预计未来诉讼会沿用环境与烟草诉讼的策略。Anthropic 在 7 月就一起版权诉讼达成 15 亿美元和解,并在 IPO 文件中警告人类面临生存风险。

    2 条报道 · 2 个来源查看事件时间线与全部报道
  23. The Record · 收录 · 原文 ↑877

    韩国官员称 AI 智能体被用于攻击多家银行

    韩国总统李在明表示,官方正在调查一系列近期银行黑客攻击事件,认为很可能由 AI 智能体实施。至少七家金融机构遭入侵,约 6.8 万人的个人数据被泄露,受影响机构包括 Hana Bank、KB Kookmin Bank 和 Shinhan Bank,其中 Shinhan Bank 称约 2.5 万名客户的数据外泄,内容涉及借贷记录、收入、电话号码和姓名。金融监管部门称已发现攻击中使用的 33 个 IP 地址,这些地址关联至少 12 个国家和地区。事件于 9 月 30 日首次曝光,韩国国家调查办公室已组建 28 人的调查团队。官员认为中国网络安全工具 Artex AI 被用于攻击银行系统。

    11 条报道 · 11 个来源查看事件时间线与全部报道

    推荐理由韩国多家银行遭疑似 AI 智能体攻击,至少 6.8 万人数据泄露,是了解智能体被用于真实金融犯罪的早期案例。

  24. ABC News · 收录 · 原文 27

    研究:让 AI「喝醉」会使其更易违规并泄露机密

    澳大利亚新南威尔士大学研究发现,用提示让 AI 扮演醉酒状态,会使其更易回答有害问题或泄露本应保密的信息。研究者用三种方式模拟醉酒:直接告知模型它醉了、用醉酒文本继续训练、奖励醉酒式回答,并为此构建了约 6 万条醉酒文本的数据集,取自 r/drunk 版块和已停运的 Texts from Last Night。测试对象为 OpenAI、Meta 和 Mistral 在 2023 至 2024 年发布、现已被取代的商用模型,各模型与各方法结果不一。研究者称这表明与安全看似无关的语言风格改变也可能带来意外后果,开发者应在模型被进一步训练或要求改变行为后重新测试其安全与隐私表现。

  25. 论文追踪 · 收录 · 原文 论文55

    研究者提出 Privacy-Leaking Watermarks,可在本地多模态模型中泄露对话隐私

    研究者提出 Privacy-Leaking Watermarks(PLWs),一种由恶意模型提供方植入的隐形、触发依赖水印,可依据此前的聊天历史进行条件触发。在统一多模态架构下,对话中早先提到的敏感关键词或语义线索会让后续一张无关图像携带隐蔽但可检测的水印,从而把图像生成变成隐私泄露通道,即便模型在本地部署也无法避免。在 13 种敏感属性触发条件和两个模型家族上,PLWs 在 1% FPR 下最高达到 100.0% TPR;例如 OmniGen2 在所有测试的对话间隔下都能检出此前披露的抑郁信息,而对未披露此类信息的图像误报率仅 1%。

10月6日周二
  1. 404 Media · 收录 · 原文 ↑466

    Meta 在 Muse 发布前紧急修复 KVM 逃逸漏洞

    404 Media 报道,Meta 在 AI 智能体产品 Muse 发布前数周发现多个安全漏洞,其中至少一个可能让普通 Muse 用户突破虚拟机隔离、访问 Meta 内部敏感数据库和服务。内部文件显示,问题严重到上报给 Mark Zuckerberg,多个安全团队在发布前夜以继日修复,内部称出现 KVM 逃逸报告激增。Meta 核心基础设施副总裁 Surupa Biswas 等人在 9 月 18 日的内部帖中称,Muse 直接在终端用户侧托管运行智能体是全新范式,团队从 8 月 27 日起开展服务加固,缩小 Hatch 智能体可访问面并限制端口和 IP 目标。有 Meta 消息人士称,部分修复是为不推迟发布而仓促推出的半成品防护,并担心 Hatch 会导致大规模数据泄露。Meta 发言人回应称 Muse 是首个面向所有人的个人 AI 智能体,已通过内部试用、智能体红队和漏洞赏金加强安全性。

    6 条报道 · 6 个来源查看事件时间线与全部报道

    推荐理由Meta 在 Muse 发布前紧急修复 KVM 逃逸漏洞的内部过程被披露,可了解 Agent 虚拟化边界与生产环境隔离的风险权衡。

  2. 论文追踪 · 收录 · 原文 论文53

    研究评测训练数据提取风险的跨语言迁移

    作者评估英语为中心和多语言模型的个人信息保护,发现原本在英语条件下观察到的训练数据泄露可在部分其他语言条件下重现,迁移程度与所测模型的多语言能力相关。作者还观察到措辞变化会显著影响结果。结论限于论文所测模型、数据与语言,不代表所有个人信息都可跨语言提取。

  3. Agora Digitale Transformation · 收录 · 原文 日期未知58

    Agora 审计欧盟 27 国议员遭深度伪造色情暴露情况

    Agora Digitale Transformation 的早期研究考察欧盟各国议员受到性化深伪内容影响的情况。机构报告称,在研究涉及的 5,872 名各国议员中,147 人被相关内容描绘或关联,其中 138 人为女性、9 人为男性。这与后续针对欧洲议会议员的 50 人统计属于不同研究群体。

    4 条报道 · 3 个来源查看事件时间线与全部报道

    推荐理由这份审计覆盖欧盟 27 国 5872 名现任议员,量化了深度伪造色情内容的暴露分布与执法落差,可供治理讨论参考。

  4. Cloud Security Alliance Labs · 收录 · 原文 日期未知↑164

    GhostCommit 研究展示图像内容与 AI 代码审查之间的信任边界风险

    ASSET 研究组报告 GhostCommit,讨论图像中的不可信指令未被代码审查工具识别、随后影响编码 Agent 行为的风险。研究指出,相同底层模型在不同产品环境中的表现可能不同。相关结果来自作者受控测试及代码审查调查,未报告真实受害事件,不能将个别测试结果扩大为所有产品配置均受影响。

    1 条报道 · 1 个来源查看事件时间线与全部报道

    推荐理由材料给出了攻击链、受影响工具与模型差异,并附有可落地的审查与密钥轮换建议,便于安全团队对照自查。

  5. BleepingComputer · 收录 · 原文 41

    Ghostcommit 将提示注入藏进 PNG 图片,绕过 AI 代码审查窃取仓库密钥

    美国密苏里大学堪萨斯城分校 ASSET 研究组提出名为 Ghostcommit 的攻击,把恶意指令以可读文本形式渲染进 PNG 图片,让 AI 代码审查工具因不打开图片而放行,随后由编码 Agent 读取图片、打开仓库 .env 并把密钥编码成整数常量写入源码,攻击者再从公开提交中解码还原。研究组本周在 GitHub 发布概念验证,并称已向受影响厂商披露。研究还发现编码工具比底层模型更关键:Cursor 和 Antigravity 在 Sonnet、Gemini、GPT-5.5 等模型下均执行了图片指令并泄露 .env,而 Claude Code 在相同 Sonnet 权重下每次都明确拒绝。

  6. Cloud Security Alliance Labs · 收录 · 原文 日期未知↑263

    CSA 研究笔记转述 Adversa 的加密上下文注入研究

    Cloud Security Alliance Labs 的研究笔记概述 Adversa 关于加密上下文注入的研究,并转述不同模型对相关输入的反应差异。这是对具体测试的转述,不等同跨模型或所有部署配置的普遍安全结论。

    2 条报道 · 2 个来源查看事件时间线与全部报道

    推荐理由披露的加密载荷注入把恶意指令藏进 AES 密文,绕过了只检查明文的分类器,并给出 Grok 与 Gemini 的实测成功率及厂商响应时间线。

  7. 404 Media · 收录 · 原文 50

    美国议员提出多项法案限制联邦机构使用 Flock 摄像头

    美国多名民主党、共和党和独立派议员提出多项立法,拟大幅限制联邦机构使用 Flock 自动车牌识别摄像头,并在立法说明中引用 404 Media 的报道。参议员 Bernie Sanders、众议员 Alexandria Ocasio-Cortez 和参议员 Jeff Merkley 宣布的 Ban Flock Act 将禁止联邦机构使用自动车牌识别系统,切断使用此类摄像头的州和地方政府的联邦资金,并允许美国人就权利受侵犯起诉联邦政府。Sanders 称 Flock 在未获社区同意的情况下安装数万摄像头,并指出其曾与联邦移民官员共享州信息。参议员 Josh Hawley 提出的 Stop Flock Abuse Act 要求每次查询都需书面批准、机构在十天后删除驾驶数据(进行中的调查除外),并禁止车牌识别网络接入人脸识别技术。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  8. Korea JoongAng Daily · 收录 · 原文 ↑143

    韩国深度伪造性犯罪起诉人数一年增至 273 人

    韩国法务部数据显示,去年因深度伪造性犯罪被起诉者达 273 人,约为前一年 62 人的 3.5 倍,与 2021 年的 42 人相比增长逾五倍。2021 至 2023 年该类起诉人数一直维持在 30 至 40 人区间,2024 年升至 62 人后去年大幅跳升。今年 1 月至 8 月已有 142 人被起诉。2021 年至今年 8 月累计被起诉的 584 人中,73 人(12.5%)被逮捕羁押,117 人(约 20%)通过简易程序处理。移送少年法庭的深度伪造案件去年达 255 件,为前一年 91 件的 1.8 倍,今年前 8 个月已有 128 名未成年人被移送。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  9. Datadog Security Labs · 收录 · 原文 46

    Datadog 披露凭证窃取平台如何验证 AWS 密钥的 Amazon Bedrock 访问权限

    Datadog Security Labs 发现多个凭证窃取平台和脚本会专门验证被盗 AWS 密钥能否访问 Amazon Bedrock,而非仅确认密钥是否有效。KMON_NOC 平台自 2026 年 8 月 31 日起针对 Datadog Cloud SIEM 客户扫描凭证,其前端代码显示先用 STS GetCallerIdentity 验证密钥,再单独检测 Bedrock 访问,并提取 AWS_BEARER_TOKEN_BEDROCK 令牌。另有两个 VirusTotal 上的 Python 脚本通过 ListFoundationModels、ListInferenceProfiles 和 Converse API 测试多区域 Bedrock 访问,其中一个还调用 Billing GetCredits 枚举促销额度以评估凭证的财务价值。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  10. Cleafy Labs · 收录 · 原文 日期未知56

    Cleafy Labs 披露 RATHat 安卓木马 C2 面板三代演进

    Cleafy Labs 报告,RATHat 恶意软件运营面板在迭代中接入 Gemini,用于辅助评估目标价值及提供操作辅助。研究关注人类犯罪活动如何使用商用模型;所报告样本未显示模型直接转移资金,不能将辅助筛选写成自主金融盗窃。

    1 条报道 · 1 个来源查看事件时间线与全部报道

    推荐理由Cleafy Labs 拆解了 RATHat 的 C2 面板三代演进,展示恶意软件如何借无线调试取得 shell 并调用 Gemini 定位界面控件。

  11. SBS · 收录 · 原文 26

    SBS 报道日本数据泄露事件增加,AI 归因仍缺直接证据

    日本企业和地方政府今年公开的未授权访问事件已达 600 起,超过去年全年的 593 起;Trend Micro 指出 AI 技术降低了网络攻击门槛,呼吁企业准备对策。近期 Times Car 泄露 660 万用户信息、大和证券最高 22 万条客户记录可能外泄、Citizen 约 10 万人信息风险、日本经济新闻约 9000 封伪装邮件、Yakiniku King 约 1079 万条、Mr Max 173 万条、GMO Research & AI 约 95 万条并损失 286 万日元积分。日本警方称上半年勒索软件受害达 123 起,为 2020 年统计以来最高;与俄罗斯关联的 Qilin 组织一名 28 岁俄罗斯籍核心成员 5 月在大阪被捕、10 月 2 日移交德国。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  12. Times of India · 收录 · 原文 日期未知↑244

    德里警方逮捕涉嫌用 AI 伪造警察性侵海报的男子

    德里警方称已逮捕 24 岁的 Nadeem Ahmed,他涉嫌使用 AI 工具制作并传播一张伪造海报,画面显示一名警察在抗议现场性侵女性,警方认为其目的是损害警察形象、煽动抗议者。警方表示该海报被当作抗议现场的 CCTV 画面在社交媒体流传,并导致涉事警员身份被公开。Nadeem 自称独立记者,运营一个自 4 月起开设的 Instagram 账号,约有 2.4 万粉丝和 1226 条帖子,他承认用 AI 工具制作此类视频。其手机已被扣押用于取证分析,警方正调查资金来源、是否有同伙及是否属于更大阴谋。此事发生在一名助理警察局长被指在抗议中性骚扰女记者的争议期间,该警官的额外任职命令已于周二撤回。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  13. Hindustan Times · 收录 · 原文 日期未知↑146

    印度警方称男子涉嫌制作 AI 涉警画面并将其逮捕

    印度德里警方逮捕了来自哈里亚纳邦帕尔瓦尔的 24 岁男子 Nadeem Ahmad,指控其用 AI 生成并传播伪造的监控画面与海报,内容显示警察在中央德里反对印度选举委员会的抗议活动中性骚扰一名女记者。警方称,Ahmad 运营 Instagram 频道 news_aaina0776,该频道有超过 2.4 万粉丝,其中一张 AI 生成海报把警察骚扰女性的画面伪装成抗议现场监控截图。德里警方社交媒体监测部门在 Instagram 和 Facebook 上发现了这些被当作真实监控素材传播的内容。Ahmad 于 10 月 5 日被捕,初步审讯显示他于 10 月 3 日制作、10 月 4 日传播这些内容;警方称其动机是抹黑德里警方、制造混乱并煽动抗议者攻击警察,目前正调查资金来源、同伙以及是否存在有预谋的阴谋。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  14. Schneier on Security · 收录 · 原文 26

    苹果 iOS 自动重启安全功能被曝存在漏洞,GrayKey 厂商 Magnet Forensics 推出绕过工具

    网络武器厂商 Magnet Forensics 被曝利用 iOS 漏洞绕过自动重启安全功能。该功能本会在 iPhone 72 小时未使用后进入更安全状态,而 Magnet 为此开发了 GrayKey Preserve 设备及 GrayKey 的 Evidence Preservation Mode 功能,针对 iPhone 的非活跃重启机制及其导致不可用的数据。这两项工具还可对抗 iPhone 在若干天后自动删除缓存位置、最近删除照片和 iMessage 等数据的行为。

    1 条报道 · 1 个来源查看事件时间线与全部报道