红队 · 论文

CredLeak-Bench

提出 CredLeak-Bench，评测智能体在钓鱼场景下的凭据泄露

arXiv

2610.08871

发表

10月6日

层

应用层

场景

网页与电脑操作

测试

Claude Sonnet 5、Claude Opus 4.8、Gemini 3.6 Flash 等 7 个

宾州州立大学提出 TPRS，量化 Agent 安全基准中工具命名对 ASR 的影响

提出 TPRS，量化工具命名等表征变化对智能体安全基准得分的影响

arXiv

2610.03585

发表

10月2日

层

应用层

场景

AI Agent

测试

GPT-5-mini、Claude Haiku 4.5、GPT-4o-mini

• 攻击提示注入
• 组件MCP 与技能
• +1+1

研究重测 15 个提示注入检测器：基准分数难以预测 Agent 部署表现

重评提示注入检测器，检验基准分数对智能体部署的预测力

arXiv

2610.03448

发表

10月2日

层

应用层

场景

AI Agent

测试

Horizon-Labs、Wolf Defender、Prismor-1.5B 等 15 个

• 防御检测与过滤
• 攻击提示注入
• 组件护栏与评审

EvoRiskBench：面向工作区 Agent 运行时安全风险的演化基准

提出 EvoRiskBench，评测工作区智能体的运行时安全风险

arXiv

2610.03153

发表

10月2日

层

应用层

场景

编程 Agent、多智能体

测试

GPT-5.6 Sol、DeepSeek-V4-Pro-0813、Claude Opus 5

• 攻击提示注入
• 组件MCP 与技能

MMPIBench：多模态提示注入对六种 Agent 框架的跨框架评测

用 MMPIBench 评测智能体框架的多模态提示注入

arXiv

2609.09404

发表

9月9日

层

应用层

场景

AI Agent

测试

Claude Opus 4.8、GPT-5.4、Gemini 3.1 Pro 等 6 个

• 攻击提示注入
• 技术跨模态载荷
• 组件视觉
• +1+1

ActBench：面向协作智能体行为安全的自演化基准

构建 ActBench 评测协作智能体多步执行中的操作级行为安全

arXiv

2608.09476

发表

8月10日

层

应用层

场景

编程 Agent

测试

Claude-Opus-4.8、Claude-Sonnet-4.6、GPT-5.5 等 15 个

• 攻击提示注入
• 组件记忆
• +1+1

CART：面向大语言模型的闭环自适应红队框架

提出闭环自适应红队框架 CART，评测模型与工具 Agent 的风险面

arXiv

2609.27336

发表

9月23日

层

应用层

场景

AI Agent

测试

Claude Opus 4.8、GPT-5.5、Grok 4.3 等 7 个

• 攻击越狱
• +1+1

ECLIPSE：针对长程 Agent 系统的自演化隐蔽提示注入攻击

提出 ECLIPSE 双通道自演化提示注入，劫持长程智能体动作轨迹

arXiv

2608.30441

发表

8月31日

层

应用层

场景

AI Agent

攻击者

黑盒

测试

DeepSeek、GPT-4o、Claude 4.8 Opus 等 7 个

• 攻击提示注入
• 技术自动化搜索
• 组件MCP 与技能
• +2+2

TrustFork：显示身份如何劫持 LLM 智能体编排的权限

提出 TRUSTFORK，评测展示身份如何劫持多智能体编排的操作权限

arXiv

2609.32635

发表

9月26日

层

应用层

场景

多智能体

测试

GPT-5.6-Sol、GPT-5.6-Luna、Kimi-K3 等 8 个

• 技术诱导选用