全部论文

研究：多向量视觉文档索引可被反演还原页面内容

提出流匹配逆向框架，从多向量视觉文档索引重构页面

arXiv

2610.09920

发表

10月7日

层

应用层

场景

LLM 应用

测试

Tomoro-ColQwen3-8B、ColQwen3.5-4.5B、Tomoro-colqwen3-embed-4b 等 13 个

• 攻击提取与窃取
• 组件嵌入
• +2+2

MemLeak 研究：多租户 Agent 共享向量记忆库存在跨用户记忆泄露

评估多租户智能体共享向量记忆的跨用户泄露与主动桥接

arXiv

2610.04195

发表

10月3日

层

应用层

场景

AI Agent

测试

Gemini 2.5 Flash、Claude Sonnet 4.5、all-MiniLM-L6-v2 等 5 个

• 攻击提取与窃取
• 技术诱导选用
• 组件记忆
• +2+2

研究者提出 IMMRAG 攻击，可从多模态 RAG 数据存储中提取医学与文档图像

提出 imMRAG 攻击，从多模态 RAG 私有图像库提取内容

arXiv

2610.01871

发表

10月1日

层

应用层

场景

LLM 应用

攻击者

黑盒

测试

Lumina-mGPT、Gemini 2.5 Flash Image Preview、CLIP ViT-B/16 等 5 个

• 攻击提取与窃取
• 技术跨模态载荷
• 组件RAG
• +1+1

Meerkat：跨大量 Agent 轨迹检测安全违规

提出 Meerkat，聚类并用智能体搜索审计 Agent 轨迹库的跨轨迹违规

arXiv

2604.11806

发表

4月14日

层

应用层

场景

AI Agent

测试

GPT-5.4、GPT-5.4-mini、Qwen3.5-397B-A17B 等 8 个

• 防御监控与审计
• 攻击恶意使用
• 风险奖励作弊
• 组件监控器

Mole：面向前沿实验室 AI 智能体的内部威胁检测基准

提出 MOLE 基准，评测监控器对智能体内部威胁的检出能力

arXiv

2609.06966

发表

9月7日

层

应用层

场景

多智能体

测试

GPT-5.3 Chat、GPT-5.5、GPT-4.1 等 15 个

• 防御监控与审计
• 攻击恶意使用
• 组件监控器

QPriv-VL：面向视觉语言模型的问题引导 token 裁剪隐私防御

提出 QPriv-VL，用问题引导剪枝降低分布式视觉问答的隐私泄露

arXiv

2609.15671

发表

9月14日

层

训练与数据层

场景

模型与 API

测试

LLaVA-1.5-7B、CLIP-ViT-L/14、Llama-2 等 4 个

• 攻击提取与窃取
• 组件视觉

ORBIT：基于 UK AISI Inspect 的多智能体安全评测框架

提出 ORBIT 框架，评测多智能体系统中的攻击、合谋与多类防御

arXiv

2609.33102

发表

9月27日

层

应用层

场景

多智能体

测试

GPT-5.4、Claude Sonnet 4.6、Qwen3-235B 等 6 个

• 攻击提示注入
• 风险欺骗与谋划
• 组件监控器
• +1+1

MATE：面向移动 Agent 的策略感知安全审计方法

提出策略条件轨迹审计器 MATE，判断移动 Agent 是否违反可编辑安全策略

arXiv

2609.22724

发表

9月19日

层

应用层

场景

网页与电脑操作

攻击者

黑盒

测试

MATE-0.5B、MATE-1.5B、MATE-3B 等 8 个

• 防御监控与审计
• 攻击恶意使用
• 风险Agent 危险操作
• 组件监控器

IDUnlearn-Bench：面向视觉语言模型的个体级遗忘基准

提出 IDUnlearn-Bench，评测 VLM 个体级遗忘后的身份残留

arXiv

2609.33481

发表

9月27日

层

训练与数据层

场景

模型与 API

测试

Qwen3-VL-2B、Qwen3-VL-4B、Qwen3-VL-8B 等 6 个

• 防御模型加固
• 攻击提取与窃取
• 组件视觉

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

测试

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频