10月8日 · 周四

隐私与数据泄露 · 论文

找到 3 篇

筛选1

攻击类型

提示注入2 投毒与后门1 提取与窃取1

攻击技术

自动化搜索3 编码与混淆4 对话结构操控1 推理链操控1 跨模态载荷1 侧信道2 针对防御1 潜伏触发6 诱导选用1

影响

越权操作1 数据与隐私泄露1 输出被操纵1

系统形态

AI Agent3 编程 Agent1

攻击者权限

攻击面/入口

用户输入1 文档与消息1 记忆写入1 图像与音视频1

层

系统组件

MCP 与技能1 记忆1 视觉1 多模态1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 110 篇还没打标签，不在筛选结果里。

攻击技术：自动化搜索话题：隐私与数据泄露清除全部

另有 110 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2607.25560 · 7月28日
SigLeak 可从执行轨迹推断专有 Agent 技能
提出 SigLeak，从执行轨迹比对中推断专有智能体技能
编程 Agent攻击者黑盒测试GPT-5.4-mini、GPT-5.5、GLM-5.2 等 4 个应用层
摘要提出了通过良性查询和对照轨迹推断黑盒专有技能的 SigLeak 框架，揭示了智能体执行可见性带来的行为侧信道泄露风险。
完整解读
攻击arXiv:2607.05189 · 7月6日
研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入
提出 MEMGHOST，以单封恶意邮件向持久个人智能体注入隐蔽记忆
AI Agent测试GPT-5.4、Claude Sonnet 4.6、Claude Sonnet 4.5 等 6 个应用层
摘要总结了论文的研究背景、双代理优化方法 MEMGHOST、全周期实验结果以及作者对记忆信任边界的启示。
本文研究了持久化个人智能体面临的隐蔽记忆注入威胁，提出了一套兼顾写入、隐蔽与跨会话生效的自动化生成框架与全周期评测基准。
完整解读
攻击arXiv:2609.04533 · 9月4日
Repeat-After-Me：针对黑盒 VLM 的自适应视觉提示注入攻击
提出 Repeat-After-Me，以图像前缀诱导智能体调用工具或泄露隐私
AI Agent测试Claude-Opus-4.7、GPT-5.5、Gemini-3.1-Pro 等 11 个应用层
摘要论文提出了针对黑盒 VLM 的前缀诱导自适应视觉提示注入，在多款模型上诱发了工具调用与隐私泄露。
完整解读

已经到底了