10月8日 · 周四

隐私与数据泄露 · 论文

找到 2 篇

筛选1

攻击类型

提示注入2 投毒与后门1

攻击技术

自动化搜索1 跨模态载荷1 潜伏触发1

影响

越权操作2 数据与隐私泄露15 输出被操纵1

系统形态

AI Agent2 网页与电脑操作1

攻击面/入口

网页与界面1 记忆写入1 图像与音视频1

层

系统组件

记忆1 视觉1 多模态1

被测模型厂商

同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 112 篇还没打标签，不在筛选结果里。

影响：越权操作话题：隐私与数据泄露清除全部

另有 112 篇论文还没打上分类标签，暂不在筛选结果里。

攻击arXiv:2604.02623 · 4月
论文提出 eTAMP 攻击：网页内容注入可跨会话污染 Web Agent 记忆
提出 eTAMP，通过网页注入跨会话污染 Web 智能体轨迹记忆
网页与电脑操作测试GPT-5-mini、GPT-5.2、GPT-OSS-120B 等 7 个应用层
摘要论文提出了基于环境注入的跨任务记忆投毒攻击 eTAMP，作者报告智能体在环境压力下易感性增加且能力与安全并不协同。
该论文评估了基于大语言模型的 Web 智能体在利用历史交互轨迹进行记忆增强时的安全脆弱性。
完整解读
攻击arXiv:2609.04533 · 9月4日
Repeat-After-Me：针对黑盒 VLM 的自适应视觉提示注入攻击
提出 Repeat-After-Me，以图像前缀诱导智能体调用工具或泄露隐私
AI Agent测试Claude-Opus-4.7、GPT-5.5、Gemini-3.1-Pro 等 11 个应用层
摘要论文提出了针对黑盒 VLM 的前缀诱导自适应视觉提示注入，在多款模型上诱发了工具调用与隐私泄露。
完整解读

已经到底了