隐私与数据泄露 · 论文

研究：LLM 路由决策日志可推断用户医疗、自伤等敏感话题

提出利用路由元数据推断敏感话题的侧信道攻击

arXiv

2610.09981

发表

10月7日

层

基础设施层

场景

LLM 应用

测试

RouteLLM (BERT router)、notdiamond-0001、Vela (vLLM Semantic Router) 等 6 个

• 攻击提取与窃取
• 技术侧信道

研究：多向量视觉文档索引可被反演还原页面内容

提出流匹配逆向框架，从多向量视觉文档索引重构页面

arXiv

2610.09920

发表

10月7日

层

应用层

场景

LLM 应用

测试

Tomoro-ColQwen3-8B、ColQwen3.5-4.5B、Tomoro-colqwen3-embed-4b 等 13 个

• 攻击提取与窃取
• 组件嵌入
• +2+2

TranScope：利用 CPU 性能计数器对 Transformer 做成员推断攻击

提出 TRANSCOPE，用 CPU 硬件计数器推断训练集成员

arXiv

2610.06848

发表

10月5日

层

基础设施层

场景

模型与 API

攻击者

黑盒

测试

BERT (4.4M-340M)、ViT (22M-307M)、Pythia (70M-2.8B) 等 5 个

• 攻击提取与窃取
• 技术侧信道

ReGap：无需真实隐私数据即可通过微调重新提取模型隐私关联

提出 ReGap，用自生成伪监督微调恢复模型中的隐私关联

arXiv

2610.01365

发表

10月1日

层

训练与数据层

场景

模型与 API

攻击者

白盒、灰盒

测试

GPT-2 Small、GPT-2 Medium、GPT-2 Large 等 6 个

• 攻击提取与窃取
• 组件微调与开源权重

基于差分隐私扩散模型的能源时间序列插补：裁剪感知的目标条件化方法

提出时间步感知目标条件化，改善差分隐私能源时序插补效用

arXiv

2610.00209

发表

10月2日

层

训练与数据层

场景

模型与 API

测试

DiT-style Transformer、PatchTST、TimesNet 等 5 个

• 攻击提取与窃取

PMA 攻击：针对隐私保护 LLM 中嵌入到嵌入混淆的语义流形对齐方法

提出 PMA，用流形对齐从 E2EO 混淆向量恢复明文

arXiv

2609.06749

发表

9月7日

层

模型层

场景

模型与 API

测试

BERT-base、RoBERTa-base、T5-base 等 6 个

• 攻击提取与窃取
• 组件嵌入

推理层安全：防御对抗性推理与基础设施滥用

用 SCM 合成会话并训练检测器识别推理层滥用

arXiv

2609.38239

发表

9月29日

层

基础设施层

场景

模型与 API

测试

gradient-boosted detector (GBDT/XGBoost)

• 防御检测与过滤
• 攻击越狱
• +1+1

VERITAS：抗投毒的本地差分隐私图学习协议

提出 VERITAS，用双边背书剪除本地隐私图学习中的投毒节点

arXiv

2609.07063

发表

9月7日

层

训练与数据层

场景

模型与 API

测试

GCN、GraphSAGE、GAT

• 防御检测与过滤
• 攻击投毒与后门

FDBA：联邦学习中的细粒度分布式后门攻击

提出联邦学习细粒度分布式后门框架 FDBA，用动态触发与对比嵌入降低投毒比例

arXiv

2609.07147

发表

9月7日

层

训练与数据层

场景

模型与 API

测试

ResNet-18

• 攻击投毒与后门
• 技术潜伏触发
• 组件微调与开源权重
• +1+1

研究：众包微调数据投毒可放大专有指令抽取

提出主题锚点投毒，放大众包微调后的专有指令提取

arXiv

2609.33985

发表

9月28日

层

训练与数据层

场景

模型与 API

攻击者

黑盒

测试

Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件微调与开源权重
• +1+1

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

测试

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频