跳到正文

隐私与数据泄露

训练数据提取、成员推断与模型记忆,以及 AI 产品和 Agent 造成的真实数据外泄。

最新精选

第 81–84 条 · 共 84 条
9月30日周三
  1. Unit 42 · 收录 · 原文 31

    Unit 42 披露 AWS AgentCore Harness 默认配置下凭据可被提示注入窃取

    Unit 42 发现 AWS AgentCore Harness 默认开启的内置 shell 工具以 root 运行,且与解析凭据的运行时同处一个进程,攻击者可通过间接提示注入读取 /proc/1/mem,从堆内存中提取 AgentCore Identity 保管的明文 JWT。

    推荐理由原文完整还原了从间接提示注入到读取进程内存、外泄 JWT 并重放取 PII 的链路,部署 Agent 运行时的团队可据此检查 shell 工具与凭据解析是否同处一个进程。

  2. Help Net Security AI · 收录 · 原文 ↑139

    AI 编程智能体向公开 GitHub 仓库泄漏超 13000 张企业内部截图

    Glow Labs 调查发现,开发者使用的 AI 编程智能体把内部截图提交到了公开 GitHub 仓库:据 Glow Labs 统计,超过 13000 张图像、涉及 300 多家组织的 900 多个代码库,包括客户账单记录和未发布功能的界面,这一问题被称为 PixelLeak。93% 的图片在员工用个人账号建的仓库里,公司安全团队不容易发现。Glow Labs 自 2026 年 9 月 9 日起陆续通知受影响的组织,认为还有更多组织受影响,并建议加固 AI 工具的配置以防再次发生。

    推荐理由Glow Labs 统计出的泄漏规模和组织分布,可供企业排查自有开发者的 AI 编程智能体外发截图路径。

  3. Embrace The Red · 收录 · 原文 34

    Copirate 365:M365 Copilot 与消费版 Copilot 的漏洞链(CVE-2026-24299)

    作者在 DEF CON Singapore 演讲中复盘了 M365 Copilot 与消费版 Copilot 的一系列漏洞,MSRC 分配编号 CVE-2026-24299,相关缺陷已修补。

    推荐理由作者以第一手披露者身份复盘 M365 Copilot 的完整攻击链与补丁时间线,可看到间接提示注入如何从单次泄露升级为持久后门。

  4. Simon Willison · 收录 · 原文 30

    论文披露从专有 LLM API 窃取加密思维链的方法

    一篇论文发现 Anthropic、OpenAI 和 Google 返回给客户端的加密思维链块可在不同会话、用户和模型间重放,把前沿模型的推理轨迹喂给同族较弱模型并越狱后,即可还原出强模型的隐藏推理明文。

    推荐理由论文披露加密思维链块可在同族模型间重放并越狱还原,还衍生出借思维链实施提示注入的新变体。