隐私与数据泄露 · 论文

ReCast：在固定媒体接口下保护多模态推理的隐私框架

提出 RECAST 框架，本地改写图表与语音以保护远程数值推理隐私

arXiv

2610.01184

发表

10月1日

层

应用层

场景

LLM 应用

测试

Qwen3.5-Omni-Plus、Qwen3-VL-8B-Instruct、Qwen3-ASR-1.7B 等 11 个

• 组件视觉
• +1+1

基于差分隐私扩散模型的能源时间序列插补：裁剪感知的目标条件化方法

提出时间步感知目标条件化，改善差分隐私能源时序插补效用

arXiv

2610.00209

发表

10月2日

层

训练与数据层

场景

模型与 API

测试

DiT-style Transformer、PatchTST、TimesNet 等 5 个

• 攻击提取与窃取

FlowSeal：用信息流控制阻断 LLM Agent 的隐私泄露

提出 FLOWSEAL，在工具边界以信息流控制阻断智能体隐私泄露

arXiv

2609.14003

发表

9月12日

层

应用层

场景

AI Agent

测试

DeepSeek-V3.2、DeepSeek-R1、GPT-4.1-mini 等 4 个

• 防御指令与数据隔离
• 攻击提取与窃取
• 组件权限与沙箱
• +1+1

Odin：面向隐私保护 Llama 3 8B 推理的开源端到端 FHE 实现

提出端到端全同态加密方案 ODIN，在云端密文上完成推理以保护提示词

arXiv

2609.12378

发表

9月11日

层

基础设施层

场景

模型与 API

测试

Meta-Llama-3-8B、Llama-3-8B（THOR-style baseline）

PILLAR：面向增强检索的私有倒排索引词法查找

提出 PILLAR，用私有词法预筛与客户端重排保护 RAG 查询

arXiv

2609.36326

发表

9月29日

层

应用层

场景

LLM 应用

测试

Qwen2.5-7B-Instruct、Llama-3-70B、e5-base-v2 等 4 个

• 组件RAG

推理层安全：防御对抗性推理与基础设施滥用

用 SCM 合成会话并训练检测器识别推理层滥用

arXiv

2609.38239

发表

9月29日

层

基础设施层

场景

模型与 API

测试

gradient-boosted detector (GBDT/XGBoost)

• 防御检测与过滤
• 攻击越狱
• +1+1

LeakGauge：用行为探针在解码前检测上下文泄露攻击信号

提出 LeakGauge，用行为后缀的 prefill 对数概率检测上下文泄露

arXiv

2608.17829

发表

8月18日

层

应用层

场景

LLM 应用

攻击者

黑盒

测试

Gemma-4-E4B-it、Gemma-4-31B-it、Qwen2.5-14B-Instruct 等 11 个

• 防御检测与过滤
• 攻击提取与窃取
• 组件RAG

VERITAS：抗投毒的本地差分隐私图学习协议

提出 VERITAS，用双边背书剪除本地隐私图学习中的投毒节点

arXiv

2609.07063

发表

9月7日

层

训练与数据层

场景

模型与 API

测试

GCN、GraphSAGE、GAT

• 防御检测与过滤
• 攻击投毒与后门

Adaptive Diffusion Freezing：抵御成员推理攻击的隐私保护扩散模型

提出 Adaptive Diffusion Freezing，降低扩散模型的成员推理风险

arXiv

2609.10608

发表

9月8日

层

训练与数据层

场景

模型与 API

• 防御模型加固
• 攻击提取与窃取