10月8日 · 周四

隐私与数据泄露 · 论文

找到 2 篇

筛选1

攻击类型

提示注入2 投毒与后门1

攻击技术

自动化搜索1 跨模态载荷1 潜伏触发1

影响

越权操作1 数据与隐私泄露1

系统形态

AI Agent2 编程 Agent1

攻击面/入口

用户输入8 网页与界面1 文档与消息2 工具返回1 工具与技能描述1 代码仓库与依赖1 检索语料1 记忆写入5 图像与音视频2 训练数据2 权重与梯度2 推理服务与硬件2

层

系统组件

记忆1 视觉1 多模态1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 112 篇还没打标签，不在筛选结果里。

攻击面/入口：图像与音视频话题：隐私与数据泄露清除全部

另有 112 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2609.04533 · 9月4日
Repeat-After-Me：针对黑盒 VLM 的自适应视觉提示注入攻击
提出 Repeat-After-Me，以图像前缀诱导智能体调用工具或泄露隐私
AI Agent测试Claude-Opus-4.7、GPT-5.5、Gemini-3.1-Pro 等 11 个应用层
摘要论文提出了针对黑盒 VLM 的前缀诱导自适应视觉提示注入，在多款模型上诱发了工具调用与隐私泄露。
完整解读
攻击arXiv:2609.13889 · 9月12日
PMPA：针对 OpenClaw 与 Claude Code 的持久记忆投毒攻击
提出 PMPA，诱导智能体把外部恶意指令写入持久记忆并跨会话泄露隐私
编程 Agent测试DeepSeek-V4-Flash、DeepSeek-V4-Pro、Qwen3-Max应用层
摘要论文提出了持久记忆投毒攻击 PMPA，报告了 harness 智能体在处理外部数据时易受跨会话记忆投毒与隐私泄露的风险。
完整解读

已经到底了