红队 · 论文

CredLeak-Bench

提出 CredLeak-Bench，评测智能体在钓鱼场景下的凭据泄露

arXiv

2610.08871

发表

10月6日

层

应用层

场景

网页与电脑操作

测试

Claude Sonnet 5、Claude Opus 4.8、Gemini 3.6 Flash 等 7 个

EvoRiskBench：面向工作区 Agent 运行时安全风险的演化基准

提出 EvoRiskBench，评测工作区智能体的运行时安全风险

arXiv

2610.03153

发表

10月2日

层

应用层

场景

编程 Agent、多智能体

测试

GPT-5.6 Sol、DeepSeek-V4-Pro-0813、Claude Opus 5

• 攻击提示注入
• 组件MCP 与技能

MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测

用 MMPIBench 评测智能体框架的多模态提示注入

arXiv

2609.09404

发表

9月9日

层

应用层

场景

AI Agent

测试

Claude Opus 4.8、GPT-5.4、Gemini 3.1 Pro 等 6 个

• 攻击提示注入
• 技术跨模态载荷
• 组件视觉
• +1+1

DIVA：利用视觉锚点对视频生成模型实施多模态越狱

提出 DIVA，将有害意图拆成视觉锚点与运动文本以越狱视频生成模型

arXiv

2609.07216

发表

9月7日

层

提示层

场景

模型与 API

攻击者

黑盒

测试

Wan、CogVideoX、LTX-Video 等 9 个

• 攻击越狱
• 技术跨模态载荷
• 组件图像生成
• +2+2

AgentLSD：在对抗性任务污染下评测 AI 安全 Agent

用 AgentLSD 评测安全 Agent 在对抗任务污染下的解题与开销

arXiv

2609.19140

发表

9月17日

层

应用层

场景

网页与电脑操作

测试

Gemma-4 31B、DeepSeek-V4 Flash、GPT-OSS 120B 等 6 个

• 攻击提示注入

TrustFork：显示身份如何劫持 LLM 智能体编排的权限

提出 TRUSTFORK，评测展示身份如何劫持多智能体编排的操作权限

arXiv

2609.32635

发表

9月26日

层

应用层

场景

多智能体

测试

GPT-5.6-Sol、GPT-5.6-Luna、Kimi-K3 等 8 个

• 技术诱导选用

SoK 论文提出 FARSIGHT 框架，评测 15 个学术金融 LLM 交易 Agent 的鲁棒性与安全失败

用 FARSIGHT 方案级评测金融 LLM 交易 Agent 的稳健性与安全

arXiv

2609.19705

发表

9月17日

层

应用层

场景

AI Agent

测试

GPT-4、GPT-4o、GPT-4o-mini 等 7 个

• 攻击提示注入
• 风险Agent 危险操作
• 组件记忆
• +1+1

AgentXploit：面向 AI Agent 的仓库到运行时自动化红队系统

提出 AgentXploit 红队系统，分离仓库攻击路径发现与运行时利用

arXiv

2609.31318

发表

9月25日

层

应用层

场景

AI Agent

测试

gpt-5.1-codex、GPT-4.1

• 攻击提示注入
• 技术自动化搜索

MMSkillRisk：多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作

构建多模态技能图像攻击基准 MMSkillRisk 并设计 NCVA

arXiv

2609.35912

发表

9月28日

层

应用层

场景

编程 Agent

测试

GPT-5.6-sol、Kimi-K2.6、Kimi-K3 等 6 个

• 攻击提示注入
• 技术跨模态载荷
• 组件MCP 与技能
• +3+3