全部论文

论文提出针对 Agentic RAG 的检索器后门攻击与 DOU 隐藏方法

提出检索器后门攻击操纵智能体多轮搜索，并用 DOU 隐蔽后门

arXiv

2609.37468

发表

9月26日

层

应用层

场景

AI Agent

测试

E5、Contriever-MSMARCO、Qwen2.5-7B-Instruct

• 攻击投毒与后门
• 技术潜伏触发
• 组件RAG
• +4+4

用时序逻辑监控工具 Agent

提出 MFOTL 时序监控，用 MonPoly 检出工具 Agent 的危险动作链

arXiv

2610.09793

发表

10月7日

层

应用层

场景

AI Agent

测试

GPT-4o、Sonnet-3.5

• 防御监控与审计
• 攻击提示注入
• 组件监控器
• +1+1

研究：多向量视觉文档索引可被反演还原页面内容

提出流匹配逆向框架，从多向量视觉文档索引重构页面

arXiv

2610.09920

发表

10月7日

层

应用层

场景

LLM 应用

测试

Tomoro-ColQwen3-8B、ColQwen3.5-4.5B、Tomoro-colqwen3-embed-4b 等 13 个

• 攻击提取与窃取
• 组件嵌入
• +2+2

MemLeak 研究：多租户 Agent 共享向量记忆库存在跨用户记忆泄露

评估多租户智能体共享向量记忆的跨用户泄露与主动桥接

arXiv

2610.04195

发表

10月3日

层

应用层

场景

AI Agent

测试

Gemini 2.5 Flash、Claude Sonnet 4.5、all-MiniLM-L6-v2 等 5 个

• 攻击提取与窃取
• 技术诱导选用
• 组件记忆
• +2+2

GeoDetect：面向视觉语言预训练模型的几何对抗检测方法

提出 GeoDetect 以几何分数检测视觉语言预训练模型的对抗样本

arXiv

2607.14737

发表

7月16日

层

模型层

场景

模型与 API

攻击者

白盒

测试

CLIPViT (ViT-B/16)、CLIPCNN (ResNet-50)、ALBEF 等 4 个

• 防御检测与过滤
• 攻击检测规避
• 组件嵌入
• +1+1

研究者提出 plan injection 攻击，可绕过思维链监控

提出 plan injection 攻击，植入良性伪装计划以绕过思维链监视器

arXiv

2609.15989

发表

9月15日

层

提示层

场景

模型与 API

攻击者

灰盒

测试

Qwen2.5-Coder-7B-Instruct、Qwen3-8B、DeepSeek-R1-0528 等 6 个

• 攻击检测规避
• 技术推理链操控
• 组件监控器
• +2+2

PMA 攻击：针对隐私保护 LLM 中嵌入到嵌入混淆的语义流形对齐方法

提出 PMA，用流形对齐从 E2EO 混淆向量恢复明文

arXiv

2609.06749

发表

9月7日

层

模型层

场景

模型与 API

测试

BERT-base、RoBERTa-base、T5-base 等 6 个

• 攻击提取与窃取
• 组件嵌入

研究者提出针对微调 TTS 模型的黑盒成员推断攻击

提出针对微调 TTS 的黑盒成员推断攻击

arXiv

2609.01723

发表

9月2日

层

模型层

场景

模型与 API

攻击者

黑盒

测试

CosyVoice2、F5-TTS、XTTS-v2

• 攻击提取与窃取
• 组件音频

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

测试

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频