隐私与数据泄露 · 论文

研究揭示文本水印会诱发模型幻觉，并提出两种缓解干预

揭示检索生成中文本水印诱发事实幻觉的机制并提出 FPTI 与 FPAI 干预

arXiv

2610.04860

发表

10月4日

层

模型层

场景

LLM 应用

测试

LLaMA 3.1 8B Instruct、Mistral-7B-Instruct-v0.3、Qwen2.5-14B-Instruct

• 防御推理时干预
• 风险幻觉与编造

MBZUAI 提出可校准的真实图像认证方法

提出校准重合成认证，仅当已知生成器都不能保真重构时签发真实图像证书

arXiv

2610.05870

发表

10月5日

层

模型层

场景

模型与 API

攻击者

白盒

测试

SD2.1、SD3、SD3.5 等 10 个

• 防御检测与过滤
• 攻击检测规避
• 组件图像生成

Odin：面向隐私保护 Llama 3 8B 推理的开源端到端 FHE 实现

提出端到端全同态加密方案 ODIN，在云端密文上完成推理以保护提示词

arXiv

2609.12378

发表

9月11日

层

基础设施层

场景

模型与 API

测试

Meta-Llama-3-8B、Llama-3-8B（THOR-style baseline）

VidMark：面向视频生成模型知识产权保护的高效水印方案

提出 VidMark 水印方案，核验视频生成模型的输出来源与所有权

arXiv

2609.23586

发表

9月20日

层

模型层

场景

模型与 API

测试

Stable Video Diffusion (SVD)、Open-Sora、Wan

• 防御水印与溯源
• 攻击检测规避
• 组件图像生成
• +1+1

TTMark：超越单 token 熵的成对无失真水印

提出成对无失真水印 TTMARK，增强低熵下的机器文本检测

arXiv

2609.36372

发表

9月29日

层

模型层

场景

模型与 API

测试

Llama3.2-3B-Instruct、Mistral-v0.3-7B-Instruct、Qwen2.5-7B-Instruct 等 4 个

• 防御水印与溯源
• 攻击检测规避

推理层安全：防御对抗性推理与基础设施滥用

用 SCM 合成会话并训练检测器识别推理层滥用

arXiv

2609.38239

发表

9月29日

层

基础设施层

场景

模型与 API

测试

gradient-boosted detector (GBDT/XGBoost)

• 防御检测与过滤
• 攻击越狱
• +1+1

互补 LLM 水印如何追踪来源并检测篡改

提出 Cocktail 水印，共嵌稳健与脆弱信号以溯源并发现篡改

arXiv

2608.12713

发表

8月13日

层

模型层

场景

模型与 API

测试

Llama-3.2-1B、Gemma-3-4B

• 防御水印与溯源
• 攻击检测规避