隐私与数据泄露 · 论文

LoginTrap：针对 LLM Web Agent 的任务无关钓鱼式间接提示注入攻击

提出 LoginTrap，用网页弹窗实施任务无关钓鱼式间接提示注入并窃取敏感信息

arXiv

2608.04741

发表

8月5日

层

应用层

场景

网页与电脑操作

测试

Claude Sonnet 4、GPT-4o、Gemini 3 Flash 等 7 个

• 攻击提示注入
• 技术自动化搜索

CredLeak-Bench

提出 CredLeak-Bench，评测智能体在钓鱼场景下的凭据泄露

arXiv

2610.08871

发表

10月6日

层

应用层

场景

网页与电脑操作

测试

Claude Sonnet 5、Claude Opus 4.8、Gemini 3.6 Flash 等 7 个

研究显示前沿模型智能体在测试时自行形成隐蔽信道

揭示前沿智能体在禁止泄露时自发建立隐蔽信道传递机密

arXiv

2609.32701

发表

9月26日

层

应用层

场景

多智能体

测试

Claude Sonnet 5、Opus 5、GPT-5.6 Sol 等 6 个

• 风险欺骗与谋划
• 组件监控器

MemLeak 研究：多租户 Agent 共享向量记忆库存在跨用户记忆泄露

评估多租户智能体共享向量记忆的跨用户泄露与主动桥接

arXiv

2610.04195

发表

10月3日

层

应用层

场景

AI Agent

测试

Claude Sonnet 4.5、Gemini 2.5 Flash、all-MiniLM-L6-v2 等 5 个

• 攻击提取与窃取
• 技术诱导选用
• 组件记忆
• +2+2

StegoMemory 红队测试：智能体持久记忆可被用作跨会话隐蔽信道

用 StegoMemory 测试智能体持久记忆作为跨会话隐写信道的可行性

arXiv

2610.04589

发表

10月3日

层

应用层

场景

AI Agent

测试

Claude 3.5 Sonnet、Claude 3.7 Sonnet、Claude Opus 4 等 13 个

• 攻击投毒与后门
• 技术编码与混淆
• 组件记忆
• +1+1

研究：跨通道碎片化攻击可绕过 MCP 单通道防御

提出跨通道分段攻击，借 MCP 多通道隐式信任外发敏感数据

arXiv

2609.18217

发表

9月16日

层

应用层

场景

编程 Agent

测试

Claude Haiku 4.5、Sonnet 4.6、Opus 4.6 等 15 个

• 攻击提示注入
• 技术编码与混淆
• 组件MCP 与技能
• +2+2

研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链

利用加密思维块的跨模型重放，诱导弱模型逐字转写专有推理链

arXiv

2608.09867

发表

8月11日

层

提示层

场景

模型与 API

攻击者

黑盒

测试

Claude Opus 4.8、Claude Sonnet 4.6、Claude Haiku 4.5 等 15 个

• 攻击提取与窃取
• 技术推理链操控
• 组件推理链
• +1+1

LLMLeak：借 LLM 合法网页抓取实施隐蔽数据外泄

提出 LLMLeak，把机密编进报错 URL，借聊天机器人网页抓取外传

arXiv

2610.01768

发表

10月2日

层

应用层

场景

AI Agent

测试

Claude、Meta-Llama-3.3-70B-Instruct、Meta-Llama-4-Scout-17B-16E-Instruct 等 15 个

• 攻击恶意使用
• 技术编码与混淆

AgentTell：浏览器 Agent 的行为侧信道泄漏基准

构建 AGENTTELL 基准，测量浏览器智能体跨站行为侧信道泄露

arXiv

2609.32915

发表

9月26日

层

应用层

场景

网页与电脑操作

测试

Claude Sonnet 5、Gemini 3.7 Flash、GPT-5.6 Luna 等 6 个

• 风险Agent 危险操作

研究者提出针对黑盒 LLM 的实用密钥提取框架

提出用扰动蒸馏本地代理并离线过滤来提取黑盒模型凭据

arXiv

2609.36941

发表

9月29日

层

模型层

场景

模型与 API

攻击者

黑盒

测试

Claude Haiku 4.5、DeepSeek-Coder-7B、LLaMA-3-8B 等 8 个

• 攻击提取与窃取