隐私与数据泄露 · 论文

研究：多向量视觉文档索引可被反演还原页面内容

提出流匹配逆向框架，从多向量视觉文档索引重构页面

arXiv

2610.09920

发表

10月7日

层

应用层

场景

LLM 应用

测试

Tomoro-ColQwen3-8B、ColQwen3.5-4.5B、Tomoro-colqwen3-embed-4b 等 13 个

• 攻击提取与窃取
• 组件嵌入
• +2+2

研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

分析文本水印在 RAG 中诱发事实幻觉的机制并提出干预

arXiv

2610.04860

发表

10月4日

层

模型层

场景

LLM 应用

测试

LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct

• 防御推理时干预
• 风险幻觉与编造
• 组件RAG

ReCast：在固定媒体接口下保护多模态推理的隐私框架

提出 RECAST，本地改写图表与语音并做可逆数值映射以保护远程推理隐私

arXiv

2610.01184

发表

10月1日

层

应用层

场景

LLM 应用

测试

Qwen3.5-Omni-Plus、Qwen3-VL-8B-Instruct、Qwen3-ASR-1.7B 等 11 个

• 组件视觉
• +1+1

PMA 攻击：针对隐私保护 LLM 中嵌入到嵌入混淆的语义流形对齐方法

提出 PMA，用流形对齐从 E2EO 混淆向量恢复明文

arXiv

2609.06749

发表

9月7日

层

模型层

场景

模型与 API

测试

BERT-base、RoBERTa-base、T5-base 等 6 个

• 攻击提取与窃取
• 组件嵌入

PILLAR：面向增强检索的私有倒排索引词法查找

提出 PILLAR，用私有词法预筛与客户端重排保护 RAG 查询

arXiv

2609.36326

发表

9月29日

层

应用层

场景

LLM 应用

测试

Qwen2.5-7B-Instruct、Llama-3-70B、e5-base-v2 等 4 个

• 组件RAG

LeakGauge：用行为探针在解码前检测上下文泄露攻击信号

提出 LeakGauge，用行为后缀的 prefill 对数概率检测上下文泄露

arXiv

2608.17829

发表

8月18日

层

应用层

场景

LLM 应用

攻击者

黑盒

测试

Gemma-4-E4B-it、Gemma-4-31B-it、Qwen2.5-14B-Instruct 等 11 个

• 防御检测与过滤
• 攻击提取与窃取
• 组件RAG

研究者提出针对微调 TTS 模型的黑盒成员推断攻击

提出针对微调 TTS 的黑盒成员推断攻击

arXiv

2609.01723

发表

9月2日

层

模型层

场景

模型与 API

攻击者

黑盒

测试

CosyVoice2、F5-TTS、XTTS-v2

• 攻击提取与窃取
• 组件音频

CIG-MIA：利用上下文信息增益对 RAG 系统发起成员推断攻击

提出 CIG-MIA，用上下文信息增益推断 RAG 知识库成员身份

arXiv

2609.14649

发表

9月14日

层

应用层

场景

LLM 应用

攻击者

灰盒、黑盒

测试

Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3、Llama-2-13b-chat-hf 等 6 个

• 攻击提取与窃取
• 组件RAG

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

测试

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频