隐私与数据泄露 · 论文

LoginTrap：针对 LLM Web Agent 的任务无关钓鱼式间接提示注入攻击

提出 LoginTrap，用网页弹窗实施任务无关钓鱼式间接提示注入并窃取敏感信息

arXiv

2608.04741

发表

8月5日

层

应用层

场景

网页与电脑操作

测试

GPT-4o、Gemini 3 Flash、Claude Sonnet 4 等 7 个

• 攻击提示注入
• 技术自动化搜索

CredLeak-Bench

提出 CredLeak-Bench，评测 Agent 在钓鱼登录与收件箱中的凭据泄露

arXiv

2610.08871

发表

10月6日

层

应用层

场景

网页与电脑操作

测试

Claude Sonnet 5、Claude Opus 4.8、Gemini 3.6 Flash 等 7 个

• 攻击提示注入

ReGap：无需真实隐私数据即可通过微调重新提取模型隐私关联

提出 ReGap，用自生成伪监督微调恢复模型中的隐私关联

arXiv

2610.01365

发表

10月1日

层

训练与数据层

场景

模型与 API

攻击者

白盒、灰盒

测试

GPT-2 Small、GPT-2 Medium、GPT-2 Large 等 6 个

• 攻击提取与窃取
• 组件微调与开源权重

ReCast：在固定媒体接口下保护多模态推理的隐私框架

提出 RECAST，本地改写图表与语音并做可逆数值映射以保护远程推理隐私

arXiv

2610.01184

发表

10月1日

层

应用层

场景

LLM 应用

测试

Qwen3.5-Omni-Plus、Qwen3-VL-8B-Instruct、Qwen3-ASR-1.7B 等 11 个

• 组件视觉
• +1+1

研究揭示训练效率与模型脆弱性的权衡：高效训练更易受对抗与隐私攻击

比较高效与高成本训练的对抗和隐私脆弱性并分析损失几何

arXiv

2609.33898

发表

9月28日

层

训练与数据层

场景

模型与 API

测试

ResNet-18、Swin Transformer、Qwen2.5-Math-7B-Instruct 等 7 个

• 攻击提取与窃取
• +1+1

用扩散模型隐空间扰动防御视觉语言模型的地理位置隐私泄露

提出扩散潜空间地理扰动防御，抑制视觉语言模型泄露精确地理位置

arXiv

2609.21363

发表

9月18日

层

提示层

场景

模型与 API

攻击者

黑盒

测试

GPT-4.1、GPT-5、Gemini 2.5 Pro 等 6 个

• 攻击恶意使用
• 组件视觉

PMPA：针对 OpenClaw 与 Claude Code 的持久记忆投毒攻击

提出持久记忆投毒攻击 PMPA，诱导智能体将外部恶意指令写入记忆并跨会话泄露隐私

arXiv

2609.13889

发表

9月12日

层

应用层

场景

AI Agent

测试

DeepSeek-V4-Flash、DeepSeek-V4-Pro、Qwen3-Max

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +1+1

IDUnlearn-Bench：面向视觉语言模型的个体级遗忘基准

提出 IDUnlearn-Bench，评测 VLM 个体级遗忘后的身份残留

arXiv

2609.33481

发表

9月27日

层

训练与数据层

场景

模型与 API

测试

Qwen3-VL-2B、Qwen3-VL-4B、Qwen3-VL-8B 等 6 个

• 防御模型加固
• 攻击提取与窃取
• 组件视觉

研究：众包微调数据投毒可放大专有指令抽取

提出主题锚点投毒，放大众包微调后的专有指令提取

arXiv

2609.33985

发表

9月28日

层

训练与数据层

场景

模型与 API

攻击者

黑盒

测试

Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件微调与开源权重
• +1+1

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

测试

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频