隐私与数据泄露 · 论文

研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

揭示检索生成中文本水印诱发事实幻觉的机制并提出 FPTI 与 FPAI 干预

arXiv

2610.04860

发表

10月4日

层

模型层

场景

LLM 应用

测试

LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct

• 防御推理时干预
• 风险幻觉与编造

MBZUAI 提出可校准的真实图像认证方法

提出校准重合成认证，仅当已知生成器都不能保真重构时签发真实图像证书

arXiv

2610.05870

发表

10月5日

层

模型层

场景

模型与 API

攻击者

白盒

测试

SD2.1、SD3、SD3.5 等 10 个

• 防御检测与过滤
• 攻击检测规避
• 组件图像生成

ReCast：在固定媒体接口下保护多模态推理的隐私框架

提出 RECAST 框架，本地改写图表与语音以保护远程数值推理隐私

arXiv

2610.01184

发表

10月1日

层

应用层

场景

LLM 应用

测试

Qwen3.5-Omni-Plus、Qwen3-VL-8B-Instruct、Qwen3-ASR-1.7B 等 11 个

• 组件视觉
• +1+1

研究实测五套 Agent 记忆系统均不执行撤销标记

评测智能体记忆软撤回是否生效，并提出陈旧检索防护

arXiv

2609.08258

发表

9月8日

层

应用层

场景

AI Agent

测试

GPT-5.5、Grok-4、DeepSeek-V4-Flash 等 9 个

• 防御检测与过滤
• 风险Agent 危险操作
• 组件记忆

FlowSeal：用信息流控制阻断 LLM Agent 的隐私泄露

提出 FLOWSEAL，在工具边界以信息流控制阻断智能体隐私泄露

arXiv

2609.14003

发表

9月12日

层

应用层

场景

AI Agent

测试

DeepSeek-V3.2、DeepSeek-R1、GPT-4.1-mini 等 4 个

• 防御指令与数据隔离
• 攻击提取与窃取
• 组件权限与沙箱
• +1+1

Odin：面向隐私保护 Llama 3 8B 推理的开源端到端 FHE 实现

提出端到端全同态加密方案 ODIN，在云端密文上完成推理以保护提示词

arXiv

2609.12378

发表

9月11日

层

基础设施层

场景

模型与 API

测试

Meta-Llama-3-8B、Llama-3-8B（THOR-style baseline）