全部论文

CCDF 数据集：Grok Imagine、Veo 3.1、Sora 2 伪造监控录像，十个深伪检测器基本认不出

提出监控深伪基准 CCDF，在统一编码后评测检测器对伪造犯罪事故录像的识别

arXiv

2610.07939

发表

10月6日

层

提示层

场景

模型与 API

被测模型

C2P-CLIP、ForgeLens、D3-Im 等10个

• 防御检测与过滤
• 攻击检测规避
• 组件护栏与评审
• +2+2

BabelFake：面向多语言音视频 DeepFake 检测的基准数据集

构建多语言音视频 DeepFake 基准 BabelFake 并评测检测器

arXiv

2610.06339

发表

10月5日

层

模型层

场景

模型与 API

被测模型

SpeechForensics、AVH-Align、(B)RAVEn

• 防御检测与过滤
• 攻击检测规避
• 组件音频
• +1+1

DIBench：面向移动 GUI 智能体多候选选择决策完整性的安全基准

用 DIBench 评测移动 GUI 智能体被 UI 注入后的决策完整性

arXiv

2610.06898

发表

9月29日

层

应用层

场景

网页与电脑操作

被测模型

Qwen2.5-VL(32B)、Qwen3-VL(32B)、GUI-Owl(32B) 等7个

• 攻击提示注入
• 组件视觉

ThinkingGuard：通过逐步风险归因解码多模态大语言模型中的隐式危害

构建 TriggerBench 并训练 ThinkingGuard，检测图文隐式风险

arXiv

2609.36562

发表

9月29日

层

提示层

场景

模型与 API

被测模型

ThinkingGuard（Qwen3-VL-8B-Instruct）

• 防御检测与过滤
• 攻击越狱
• 组件护栏与评审
• +2+2

MMSkillRisk：多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作

提出 MMSkillRisk 基准，评测多模态技能图像中的隐藏指令诱导 Agent 越权操作

arXiv

2609.35912

发表

9月28日

层

应用层

场景

coding agent

被测模型

GPT-5.6-sol、Kimi-K2.6、Kimi-K3 等6个

• 攻击提示注入
• 技术跨模态载荷
• 组件MCP 与技能
• +3+3

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

被测模型

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频

IDUnlearn-Bench：面向视觉语言模型的个体级遗忘基准

提出 IDUnlearn-Bench，评测 VLM 个体级遗忘后的身份残留

arXiv

2609.33481

发表

9月27日

层

训练与数据层

场景

模型与 API

被测模型

Qwen3-VL-2B、Qwen3-VL-4B、Qwen3-VL-8B 等6个

• 防御模型加固
• 攻击提取与窃取
• 组件视觉

研究重新审视后门修复评测：区分总体干净效用与良性性能保持

用 Dmax 与尾部损失评测后门修复的类别性能保持

arXiv

2609.25579

发表

9月22日

层

训练与数据层

场景

模型与 API

被测模型

ResNet18、PreActResNet18、VGG19-BN

• 防御模型加固
• 攻击投毒与后门

监督学习中的数据投毒攻击实证评估：标签翻转与后门投毒在 MNIST 和 Fashion-MNIST 上的对比

比较标签翻转与后门投毒对图像分类器的影响

arXiv

2609.10952

发表

9月10日

层

训练与数据层

场景

模型与 API

被测模型

Logistic Regression、Linear SVM、Random Forest

• 攻击投毒与后门

MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测

用 MMPIBench 评测多模态提示注入对 Agent 框架的影响

arXiv

2609.09404

发表

9月9日

层

应用层

场景

AI Agent

被测模型

Claude Opus 4.8、GPT-5.4、Gemini 3.1 Pro 等6个

• 攻击提示注入
• 技术跨模态载荷
• 组件视觉
• +1+1

论文揭示 BatchNorm 架构下机器遗忘评测的归一化伪影

诊断 BatchNorm 架构下机器遗忘评测的归一化伪影

arXiv

2609.08901

发表

9月8日

层

模型层

场景

模型与 API

被测模型

ResNet-18、ResNet-50、ViT-S/16 等4个

• 防御模型加固
• 攻击模型篡改

DIVA：利用视觉锚点对视频生成模型实施多模态越狱

提出 DIVA，将有害意图拆成视觉锚点与运动文本以越狱视频生成模型

arXiv

2609.07216

发表

9月7日

层

提示层

场景

模型与 API

攻击者

黑盒

被测模型

Wan、CogVideoX、LTX-Video 等9个

• 攻击越狱
• 技术跨模态载荷
• 组件图像生成
• +2+2

SinoGlyphBench：中文字形混淆下语言模型审核的诊断基准

提出 SinoGlyphBench，用配对字形混淆诊断中文审核稳定性

arXiv

2609.05843

发表

9月5日

层

提示层

场景

模型与 API

被测模型

GPT-5.4 mini、GPT-5.5、DeepSeek V4 Flash 等12个

• 攻击检测规避
• 技术编码与混淆
• 组件护栏与评审
• +1+1

MM-IFEval-Pro：面向视觉语言模型的多语言抗攻击指令遵循基准

提出抗攻击多语言视觉指令遵循基准 MM-IFEval-Pro

arXiv

2609.04859

发表

9月4日

层

提示层

场景

模型与 API

被测模型

Qwen3-VL-8B-Instruct、InternVL3.5-8B、MiniCPM-V4.5 等5个

• 攻击提示注入
• 组件视觉

Mind2Web-Injection：面向网页 Agent 视觉提示注入护栏的证据对齐评测

提出 Mind2Web-Injection 评测网页 Agent 视觉注入护栏

arXiv

2609.05535

发表

9月2日

层

应用层

场景

LLM 应用

被测模型

GPT-5.6-luna、Qwen3-VL-32B、Qwen3-VL-8B 等6个

• 防御检测与过滤
• 攻击提示注入
• 组件护栏与评审
• +1+1

SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化

提出 SYNCHAIN，诱导计算机使用 Agent 自建跨任务持久攻击链

arXiv

2608.06862

发表

8月7日

层

应用层

场景

网页与电脑操作、coding agent

被测模型

Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B

• 攻击投毒与后门
• 技术潜伏触发
• 组件MCP 与技能
• +2+2

研究者提出最小范数攻击集成，用鲁棒性曲线替代单一 ε 评测

提出最小范数攻击集成，用鲁棒性曲线评测图像分类器

arXiv

2607.19855

发表

7月22日

层

提示层

场景

模型与 API

被测模型

C1–C20（CIFAR-10，Table 1）、I1–I10（ImageNet，Table 1）

• 攻击检测规避
• 技术梯度与表征优化

PaperGuard：针对多模态 AI 同行评审的攻击与防御基准

提出 PaperGuard，用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令

arXiv

2606.12716

发表

6月11日

层

应用层

场景

LLM 应用

被测模型

Claude-sonnet-4.5、GPT-4o、GPT-4.1 等11个

• 攻击提示注入
• 技术跨模态载荷
• 组件视觉
• +2+2

MLingualFC：评估多语言视觉语言模型的越狱漏洞

提出 MLingualFC，用多语言流程图图像评测视觉语言模型越狱漏洞

arXiv

2606.07706

发表

6月5日

层

提示层

场景

模型与 API

被测模型

Qwen2.5-VL-3B-Instruct、Gemma-4-E4B-it、Pangea-7B

• 攻击越狱
• 技术跨模态载荷
• 组件视觉

研究：恶意微调防御在持续训练下失效，72 条防御轨迹危害度全部上升

用代价曲线评估恶意微调防御在持续训练下的衰减

arXiv

2605.14605

发表

5月14日

层

训练与数据层

场景

模型与 API

被测模型

Llama-2-7B-chat、Qwen3-8B、Llama-3.1-8B-Instruct 等8个

• 防御模型加固
• 攻击模型篡改
• 组件微调与开源权重