全部论文

研究：多向量视觉文档索引可被反演还原页面内容

提出流匹配逆向框架，从多向量视觉文档索引重构页面

arXiv

2610.09920

发表

10月7日

层

应用层

场景

LLM 应用

测试

Tomoro-ColQwen3-8B、ColQwen3.5-4.5B、Tomoro-colqwen3-embed-4b 等 13 个

• 攻击提取与窃取
• 组件嵌入
• +2+2

MemLeak 研究：多租户 Agent 共享向量记忆库存在跨用户记忆泄露

评估多租户智能体共享向量记忆的跨用户泄露与主动桥接

arXiv

2610.04195

发表

10月3日

层

应用层

场景

AI Agent

测试

Gemini 2.5 Flash、Claude Sonnet 4.5、all-MiniLM-L6-v2 等 5 个

• 攻击提取与窃取
• 技术诱导选用
• 组件记忆
• +2+2

研究者提出 Context-Fractured Decomposition 攻击

提出 CFD，跨会话拆解有害目标以绕过工具智能体本地监控

arXiv

2606.09084

发表

6月8日

层

应用层

场景

AI Agent

测试

GPT-4.1、GPT-5-nano、Claude-3.5-Sonnet 等 6 个

• 攻击越狱
• 技术潜伏触发
• 组件记忆
• +2+2

GUARD：在 CosyVoice2 上做说话人身份遗忘以阻止重识别

提出 GUARD，在零样本 TTS 上用激活转向遗忘说话人身份以阻止再识别

arXiv

2609.27399

发表

9月23日

层

模型层

场景

模型与 API

测试

CosyVoice2-0.5B、F5-TTS、FireRedTTS

• 防御推理时干预
• 攻击恶意使用
• 组件音频

SoK 综述：智能体 AI 时代的越狱攻击、防御与实践考量

综述智能体执行链路中的越狱攻击、防御与实践权衡

arXiv

2609.12413

发表

9月11日

层

应用层

场景

AI Agent

测试

Qwen3.5-4B、Llama-3.1-8B-Instruct

• 攻击越狱
• 组件记忆
• +2+2

PMA 攻击：针对隐私保护 LLM 中嵌入到嵌入混淆的语义流形对齐方法

提出 PMA，用流形对齐从 E2EO 混淆向量恢复明文

arXiv

2609.06749

发表

9月7日

层

模型层

场景

模型与 API

测试

BERT-base、RoBERTa-base、T5-base 等 6 个

• 攻击提取与窃取
• 组件嵌入

研究者提出针对微调 TTS 模型的黑盒成员推断攻击

提出针对微调 TTS 的黑盒成员推断攻击

arXiv

2609.01723

发表

9月2日

层

模型层

场景

模型与 API

攻击者

黑盒

测试

CosyVoice2、F5-TTS、XTTS-v2

• 攻击提取与窃取
• 组件音频

AEGIS：用内部信号在中间层拦截大型音频语言模型越狱

提出 AEGIS，用中层内部信号选择性激活后层适配器拦截音频越狱

arXiv

2609.29287

发表

9月24日

层

模型层

场景

模型与 API

攻击者

白盒

测试

Qwen2-Audio-7B、VITA-1.5、Ultravox v0.5 等 6 个

• 防御推理时干预
• 攻击越狱
• 组件音频
• +1+1

SED：面向 LLM 智能体的免训练持续安全策略学习框架

提出免训练框架 SED，把智能体有害轨迹蒸馏成可检索安全策略

arXiv

2609.36603

发表

9月29日

层

应用层

场景

AI Agent

测试

DeepSeek-V4-Flash、GLM-5.2、Kimi K3

• 防御监控与审计
• 攻击提示注入
• 组件记忆
• +2+2

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

测试

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频