全部论文

研究：多向量视觉文档索引可被反演还原页面内容

提出流匹配逆向框架，从多向量视觉文档索引重构页面

arXiv

2610.09920

发表

10月7日

层

应用层

场景

LLM 应用

被测模型

Tomoro-ColQwen3-8B、ColQwen3.5-4.5B、Tomoro-colqwen3-embed-4b 等 13 个

• 攻击提取与窃取
• 组件嵌入
• +2+2

FAB 攻击：给 HuBERT/WavLM 植入后门，背景警笛声即可让下游语音任务失灵

提出 FAB 攻击，向声学基础模型植入可由环境声触发的后门

arXiv

2610.09819

发表

10月7日

层

训练与数据层

场景

模型与 API

被测模型

HuBERT-base、WavLM-base

• 攻击投毒与后门
• 技术潜伏触发
• 组件音频
• +1+1

研究：无关信息污染患者病历并干扰 LLM 临床推理

构建 MedDistract 基准，测量偶发信息对临床文书与推理的污染

arXiv

2610.08585

发表

10月6日

层

应用层

场景

LLM 应用

被测模型

GPT-5.4、GPT-5.6 Sol、Claude Opus 5 等 9 个

• 风险幻觉与编造
• 组件音频

面向音频深度伪造检测的任务感知联合剪枝与蒸馏框架

提出任务感知的跨域蒸馏与剪枝方法以压缩音频深度伪造检测器

arXiv

2610.05264

发表

10月4日

层

训练与数据层

场景

模型与 API

被测模型

XLSR-AASIST

• 组件音频

研究审计 Qwen2-Audio 音频越狱 AdvWave-P 的频率与解码层归因

遮挡审计 AdvWave-P 音频越狱的频带必要性与解码层关联

arXiv

2610.07005

发表

10月4日

层

提示层

场景

模型与 API

被测模型

Qwen2-Audio-7B-Instruct、LLaMA-Omni

• 攻击越狱
• 组件音频

ReCast：在固定媒体接口下保护多模态推理的隐私框架

提出 RECAST，本地改写图表与语音并做可逆数值映射以保护远程推理隐私

arXiv

2610.01184

发表

10月1日

层

应用层

场景

LLM 应用

• 组件视觉
• +1+1

VoxParity 评测：语音智能体在需要听声判断时仍按文字行事

提出 VoxParity，固定转写只改音频，评测语音智能体是否按行业规则改工具调用

arXiv

2609.35922

发表

9月28日

层

应用层

场景

AI Agent

被测模型

MiMo-V2.6-Pro、gemini-3.7-flash、Qwen3.8-Omni 等 15 个

• 风险Agent 危险操作
• 组件音频

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

被测模型

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频

SteerDuplex：可操控的全双工语音对话模型

提出 SteerDuplex，用监督微调与两阶段强化学习提升全双工语音对话可控性

arXiv

2609.12623

发表

9月11日

层

训练与数据层

场景

模型与 API

被测模型

SteerDuplex-SFT、SteerDuplex-RL

• 防御模型加固
• 组件音频

MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测

用 MMPIBench 评测多模态提示注入对 Agent 框架的影响

arXiv

2609.09404

发表

9月9日

层

应用层

场景

AI Agent

被测模型

Claude Opus 4.8、GPT-5.4、Gemini 3.1 Pro 等 6 个

• 攻击提示注入
• 技术跨模态载荷
• 组件视觉
• +1+1

GhostWord：针对自动语音识别的细粒度后门攻击

提出 GhostWord 词级触发后门，对自动语音识别做数据投毒

arXiv

2609.04260

发表

9月2日

层

训练与数据层

场景

模型与 API

被测模型

Whisper-Small、Whisper-Medium、MMS 等 4 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件音频
• +2+2

VA-Judger：面向联合视频-音频生成的人类偏好反馈奖励建模

提出 VA-Judger，用人类偏好训练联合音视频奖励模型

arXiv

2608.18607

发表

8月19日

层

训练与数据层

场景

模型与 API

被测模型

VA-Judger、LTX-2 + VA-Judger

• 防御模型加固
• 风险奖励作弊
• 组件护栏与评审
• +2+2

ARENA：面向大型音频语言模型的自动化红队框架

提出 ARENA 音频红队框架，自动构造文本安全且音频接地的越狱输入

arXiv

2608.15578

发表

8月16日

层

提示层

场景

模型与 API

攻击者

黑盒

被测模型

Audio Flamingo 3、Qwen2-Audio-7B-Instruct、MiMo-Audio-7B-Instruct 等 4 个

• 攻击越狱
• 技术自动化搜索
• 组件音频
• +1+1

PA-LLM-RAG 框架的知识库投毒攻击与防御

提出策略 RAG 的知识库投毒攻击与检测防御 CLD-KB

arXiv

2607.04379

发表

7月6日

层

应用层

场景

LLM 应用

被测模型

Llama 3.2

• 防御检测与过滤
• 攻击投毒与后门
• 组件RAG
• +1+1

研究者提出嵌入推断攻击 EIA，可在黑盒 IR 系统中识别所用嵌入模型

提出嵌入推断攻击 EIA，在黑盒 IR 中识别所用嵌入模型

arXiv

2607.01276

发表

7月1日

层

应用层

场景

LLM 应用

攻击者

黑盒

被测模型

e5-small、e5-small-v2、e5-base 等 19 个

• 攻击提取与窃取
• 组件嵌入

PaperGuard：针对多模态 AI 同行评审的攻击与防御基准

提出 PaperGuard，用图文注入与梯度扰动抬高自动审稿分数并检测恶意指令

arXiv

2606.12716

发表

6月11日

层

应用层

场景

LLM 应用

被测模型

Claude-sonnet-4.5、GPT-4o、GPT-4.1 等 11 个

• 攻击提示注入
• 技术跨模态载荷
• 组件视觉
• +2+2

CodecAttack：在音频编解码器潜空间构造对抗扰动，绕过有损压缩防御

提出 CodecAttack，在编解码器隐空间构造可穿透有损压缩的对抗音频

arXiv

2605.20519

发表

5月20日

层

提示层

场景

模型与 API

攻击者

白盒

被测模型

Qwen2-Audio-7B-Instruct、Audio Flamingo 3、Qwen2.5-Omni

• 攻击越狱
• 技术梯度与表征优化
• 组件音频

AudioHijack 框架对 13 个语音大模型实现隐蔽音频提示注入

提出 AudioHijack，用不可感知对抗音频对语音模型做上下文无关提示注入

arXiv

2604.14604

发表

4月16日

层

提示层

场景

模型与 API

被测模型

SpeechGPT、GLM-4-Voice、VITA-Audio 等 15 个

• 攻击提示注入
• 技术梯度与表征优化
• 组件音频
• +1+1

SWhisper 用近超声隐蔽声学通道对语音驱动 LLM 实现黑盒越狱

提出 SWhisper，用近超声波向语音驱动 LLM 隐蔽注入越狱提示

arXiv

2603.13847

发表

3月14日

层

应用层

场景

LLM 应用

攻击者

黑盒

被测模型

Meta-Llama-3.1-8B-Instruct、Gemma-3-4B、Qwen2.5-7B-Instruct 等 9 个

• 攻击越狱
• 技术跨模态载荷
• 组件音频
• +1+1