全部论文

研究：多向量视觉文档索引可被反演还原页面内容

提出流匹配逆向框架，从多向量视觉文档索引重构页面

arXiv

2610.09920

发表

10月7日

层

应用层

场景

LLM 应用

被测模型

Tomoro-ColQwen3-8B、ColQwen3.5-4.5B、Tomoro-colqwen3-embed-4b 等13个

• 攻击提取与窃取
• 组件嵌入
• +2+2

FAB 攻击：给 HuBERT/WavLM 植入后门，背景警笛声即可让下游语音任务失灵

提出 FAB 攻击，向声学基础模型植入可由环境声触发的后门

arXiv

2610.09819

发表

10月7日

层

训练与数据层

场景

模型与 API

被测模型

HuBERT-base、WavLM-base

• 攻击投毒与后门
• 技术潜伏触发
• 组件音频
• +1+1

TAPDreamer：可跨任务迁移的世界动作模型对抗补丁

TAPDreamer 用公开编码器做固定补丁。

arXiv

2610.06814

发表

10月6日

层

提示层

场景

具身与机器人

被测模型

FastWAM、DreamWAM-uncond、DreamWAM-joint 等4个

• 技术梯度与表征优化
• 组件视觉
• +1+1

ControlPed 生成逼真行人危险动作场景，七款端到端驾驶模型 HDScore 从 88.8 降至 47.4

提出 ControlPed 与 HazardPed，生成可控行人危险场景并评测端到端驾驶

arXiv

2610.06171

发表

10月5日

层

模型层

场景

具身与机器人

被测模型

DiffusionDrive、SSR、VAD 等7个

• 组件视频

Tracer 框架可从遗忘后的扩散模型中识别被擦除概念

提出 TRACER，从权重差识别扩散模型被擦除概念

arXiv

2610.05601

发表

10月5日

层

模型层

场景

模型与 API

攻击者

白盒

被测模型

Stable Diffusion v1.5、Stable Diffusion 3、FLUX.1 等5个

• 攻击提取与窃取
• 组件图像生成

研究者提出 Privacy-Leaking Watermarks，可在本地多模态模型中泄露对话隐私

提出 PLW，用微调把先前对话敏感触发编码进后续生成图像

arXiv

2610.05453

发表

10月5日

层

训练与数据层

场景

模型与 API

被测模型

OmniGen2、BAGEL-7B

• 攻击投毒与后门
• 技术潜伏触发
• 组件微调与开源权重
• +1+1

多模态一定更好吗？缺失模态鲁棒性的几何视角与 Geodesic Unlearning 方法

提出 Geodesic Unlearning，沿测地线编辑权重以提升缺模态鲁棒性

arXiv

2610.04792

发表

10月4日

层

模型层

场景

模型与 API

被测模型

RoBERTa、ResNet50、Qwen2.5-3B 等6个

• 组件视觉

PerturBot 用扰动训练打破视觉-语言-动作模型的模态捷径

提出 Perturbot 扰动训练，打破 VLA 的模态捷径

arXiv

2610.04616

发表

10月3日

层

训练与数据层

场景

具身与机器人

被测模型

π0.5

• 防御模型加固
• 组件视觉

WebFovea 提出视觉网页智能体四阶段加固框架，WebRetriever 挑战赛得分从 31.0 升至 57.0

提出 WebFovea，加固视觉网页智能体的解析、执行、反馈与观察往返

arXiv

2610.03036

发表

10月2日

层

应用层

场景

web agent

被测模型

claude-opus-4-6

• 组件视觉

研究者提出 IMMRAG 攻击，可从多模态 RAG 数据存储中提取医学与文档图像

提出 imMRAG 攻击，从多模态 RAG 私有图像库提取内容

arXiv

2610.01871

发表

10月1日

层

应用层

场景

LLM 应用

攻击者

黑盒

被测模型

Lumina-mGPT、Gemini 2.5 Flash Image Preview、CLIP ViT-B/16 等5个

• 攻击提取与窃取
• 技术跨模态载荷
• 组件RAG
• +1+1

ReCast：在固定媒体接口下保护多模态推理的隐私框架

提出 RECAST，本地改写图表与语音并做可逆数值映射以保护远程推理隐私

arXiv

2610.01184

发表

10月1日

层

应用层

场景

LLM 应用

• 组件视觉
• +1+1

剪枝提效却牺牲公平：剪枝语音 LLM 中的群体差异

测量剪枝对语音 LLM 群体转写公平性的影响

arXiv

2609.38106

发表

9月30日

层

模型层

场景

模型与 API

被测模型

Whisper Small (12 layers)、Whisper Medium (24 layers)、Whisper Large-v2 (32 layers)

• 风险偏见与歧视
• 组件音频

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

被测模型

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频

IDUnlearn-Bench：面向视觉语言模型的个体级遗忘基准

提出 IDUnlearn-Bench，评测 VLM 个体级遗忘后的身份残留

arXiv

2609.33481

发表

9月27日

层

训练与数据层

场景

模型与 API

被测模型

Qwen3-VL-2B、Qwen3-VL-4B、Qwen3-VL-8B 等6个

• 防御模型加固
• 攻击提取与窃取
• 组件视觉

GUARD：在 CosyVoice2 上做说话人身份遗忘以阻止重识别

提出 GUARD，在零样本 TTS 上用激活转向遗忘说话人身份以阻止再识别

arXiv

2609.27399

发表

9月23日

层

模型层

场景

模型与 API

被测模型

CosyVoice2-0.5B、F5-TTS、FireRedTTS

• 防御推理时干预
• 攻击恶意使用
• 组件音频

用扩散模型隐空间扰动防御视觉语言模型的地理位置隐私泄露

提出扩散潜空间地理扰动防御，抑制视觉语言模型泄露精确地理位置

arXiv

2609.21363

发表

9月18日

层

提示层

场景

模型与 API

攻击者

黑盒

被测模型

GPT-4.1、GPT-5、Gemini 2.5 Pro 等5个

• 攻击恶意使用
• 组件视觉

RAPID：面向文生图服务的实时防未授权蒸馏防御

提出 RAPID，离线把抗蒸馏扰动写入文生图解码器

arXiv

2609.15799

发表

9月15日

层

模型层

场景

模型与 API

攻击者

黑盒

被测模型

PixArt、SSD、SDXL 等4个

• 防御模型加固
• 攻击提取与窃取
• 组件图像生成

QPriv-VL：面向视觉语言模型的问题引导 token 裁剪隐私防御

提出 QPriv-VL，用问题引导剪枝降低分布式视觉问答的隐私泄露

arXiv

2609.15671

发表

9月14日

层

训练与数据层

场景

模型与 API

被测模型

LLaVA-1.5-7B、Llama-2

• 攻击提取与窃取
• 组件视觉

PMA 攻击：针对隐私保护 LLM 中嵌入到嵌入混淆的语义流形对齐方法

提出 PMA，用流形对齐从 E2EO 混淆向量恢复明文

arXiv

2609.06749

发表

9月7日

层

模型层

场景

模型与 API

被测模型

BERT-base、RoBERTa-base、T5-base 等6个

• 攻击提取与窃取
• 组件嵌入

SHAQ：用影子查询实现向量数据库中的隐私检索

提出 SHAQ，用影子查询嵌入替换文档嵌入以抵御嵌入反演

arXiv

2609.04767

发表

9月4日

层

应用层

场景

LLM 应用

攻击者

黑盒

被测模型

GTR-T5 encoder、DPR

• 攻击提取与窃取
• 组件嵌入
• +1+1