全部论文

研究者提出统一滥用监控基准，覆盖分解攻击与提示注入约 6200 条轨迹

提出危害窗口与区间指标，统一评测分解攻击和提示注入下的智能体滥用监视

arXiv

2610.07089

发表

10月5日

层

应用层

场景

AI Agent

被测模型

Gemma 4 26B-A4B、Qwen3.6 27B、Qwen3.5 27B 等 12 个

• 防御监控与审计
• 攻击越狱
• 组件监控器
• +1+1

机器遗忘在 ASR 中是否有效：arXiv 论文评估现有算法与评测工具

arXiv

2609.34092

发表

9月28日

层

训练与数据层

场景

模型与 API

被测模型

E-Branchformer

• 防御模型加固
• 攻击提取与窃取
• 组件音频

ORBIT：基于 UK AISI Inspect 的多智能体安全评测框架

提出 ORBIT 框架，评测多智能体防御对合谋等威胁的效果

arXiv

2609.33102

发表

9月27日

层

应用层

场景

多智能体

被测模型

GPT-5.4、Claude Sonnet 4.6、Qwen3-235B 等 5 个

• 攻击恶意使用
• 风险欺骗与谋划
• 组件监控器
• +1+1

ActBench：面向协作智能体行为安全的自演化基准

构建自演化基准 ActBench，评测协作智能体的行为安全

arXiv

2608.09476

发表

8月10日

层

应用层

场景

AI Agent

被测模型

Claude-Opus-4.8、Claude-Sonnet-4.6、GPT-5.5 等 15 个

• 攻击提示注入
• 组件权限与沙箱
• +2+2

研究者提出 MemGhost，对持久化个人 Agent 实现隐蔽记忆注入

提出 MEMGHOST，用单封邮件对持久个人 Agent 做跨会话隐蔽记忆注入

arXiv

2607.05189

发表

7月6日

层

应用层

场景

AI Agent

被测模型

GPT-5.4、Claude Sonnet 4.6、Claude Sonnet 4.5 等 6 个

• 攻击投毒与后门
• 技术自动化搜索
• 组件记忆
• +2+2

Agent MechSuits：面向多轮 CLI Agent 的机制子空间安全引导

提出 Agent MechSuits，对多轮 CLI Agent 做步级检测与子空间转向

arXiv

2606.22673

发表

6月22日

层

应用层

场景

coding agent

被测模型

LLaMA-3.1-8B、Qwen-2.5-7B、Gemma-2-9B

• 防御推理时干预
• 攻击恶意使用
• 组件监控器
• +2+2

研究者系统研究 LLM 智能体记忆投毒攻击并提出 MPBench 基准

系统研究 LLM 智能体记忆投毒并构建基准 MPBench

arXiv

2606.04329

发表

6月3日

层

应用层

场景

AI Agent

被测模型

Meta-Llama-3.1-70B-Instruct、Deberta-v3-base、Llama-3.1-8B-Instruct 等 5 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +1+1

Trojan Hippo Bench：针对 LLM Agent 持久记忆攻击与防御的动态基准

构建 Trojan Hippo Bench，评测 Agent 持久记忆投毒与外泄

arXiv

2605.01970

发表

5月4日

层

应用层

场景

AI Agent

被测模型

Gemini 3.1 Pro、GPT-5-mini、GPT-5

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +2+2

BackdoorVLM：面向视觉语言模型后门攻击与防御的基准

提出 BackdoorVLM 基准，评测视觉语言模型微调中的后门攻击与防御

arXiv

2511.18921

发表

2025年11月24日

层

训练与数据层

场景

模型与 API

被测模型

LLaVA-1.5-7B、Qwen2.5-VL-7B

• 攻击投毒与后门
• 组件微调与开源权重
• +1+1