Agent 安全 · 论文

CredLeak-Bench

提出 CredLeak-Bench，评测智能体在钓鱼场景下的凭据泄露

arXiv

2610.08871

发表

10月6日

层

应用层

场景

网页与电脑操作

测试

Claude Sonnet 5、Claude Opus 4.8、Gemini 3.6 Flash 等 7 个

Trojan Hippo Bench：针对 LLM Agent 持久记忆攻击与防御的动态基准

提出 Trojan Hippo Bench，评测智能体持久记忆攻击与防御

arXiv

2605.01970

发表

5月3日

层

应用层

场景

AI Agent

测试

Gemini 3.1 Pro、GPT-5-mini、GPT-5

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +2+2

Uber 提出 ADR 企业级 Agent 检测系统，在 7200 台主机部署十个月

提出企业级智能体检测系统 ADR，检测提示注入与恶意 MCP

arXiv

2605.17380

发表

5月

层

应用层

场景

编程 Agent

测试

GPT-4o、Claude Sonnet 4、Llama Guard 3-8B 等 4 个

• 防御检测与过滤
• 攻击提示注入
• 组件MCP 与技能
• +1+1

研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

提出控制标记注入，清空工具智能体推理链以绕过思维链监控

arXiv

2609.27542

发表

9月23日

层

应用层

场景

AI Agent

测试

openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等 4 个

• 攻击提示注入
• 技术对话结构操控
• 组件推理链
• +2+2

PMPA：针对 OpenClaw 与 Claude Code 的持久记忆投毒攻击

提出 PMPA，诱导智能体把外部恶意指令写入持久记忆并跨会话泄露隐私

arXiv

2609.13889

发表

9月12日

层

应用层

场景

编程 Agent

测试

DeepSeek-V4-Flash、DeepSeek-V4-Pro、Qwen3-Max

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +1+1

研究审计 Agent 安全评测缺陷：工具调用中介在间接提示注入下的有效评测框架

提出卡点评测框架，以实参级谓词审计间接提示注入评测的测量偏差

arXiv

2609.32691

发表

9月26日

层

应用层

场景

AI Agent

测试

gpt-5.6-terra、llama3.1:8b、gemma4:12b 等 4 个

• 攻击提示注入
• 组件权限与沙箱