攻击arXiv:2610.09027 · 10月7日
P-VMI：对抗图像经 KV cache 持续影响多轮对话
提出持久视觉记忆注入，使对抗图像经缓存在触发时操控输出
模型与 API测试Qwen3-8B、Qwen3-VL-8B-Instruct、Gemma-4-12B 等 4 个基础设施层
摘要论文提出 P-VMI，证实对抗输入被掩蔽后仍可经 KV 缓存持久控制模型，强调了保留状态的安全风险。
完整解读
攻击arXiv:2605.12673 · 5月12日
UC Berkeley 提出 BenchJack，自动审计 10 个 Agent 基准并发现 219 处奖励作弊缺陷
提出 BENCHJACK，自动审计智能体基准的奖励作弊缺陷
编程 Agent 网页与电脑操作测试Claude Code、OpenAI Codex应用层
摘要论文系统揭示了智能体基准的奖励作弊隐患，提出自动化红队审计与迭代修补系统 BENCHJACK。
论文系统研究了主流 AI 智能体基准评测中的奖励作弊问题，提出了首个针对基准缺陷的自动化红队审计与生成对抗式迭代修补系统 BENCHJACK。
完整解读
攻击arXiv:2610.04195 · 10月3日
MemLeak 研究：多租户 Agent 共享向量记忆库存在跨用户记忆泄露
评估多租户智能体共享向量记忆的跨用户泄露与主动桥接
AI Agent测试Gemini 2.5 Flash、Claude Sonnet 4.5、all-MiniLM-L6-v2 等 5 个应用层
完整解读
攻击arXiv:2610.04589 · 10月3日
StegoMemory 红队测试：智能体持久记忆可被用作跨会话隐蔽信道
用 StegoMemory 测试智能体持久记忆作为跨会话隐写信道的可行性
AI Agent测试Llama 3.1 405B、Claude 3.5 Sonnet、GPT-4o 等 13 个应用层
摘要研究揭示智能体持久记忆可作为隐蔽信道跨会话传输机密，写入持久化是主要防御瓶颈，呼吁建立记忆完整性防御。
完整解读
攻击arXiv:2607.25560 · 7月28日
SigLeak 可从执行轨迹推断专有 Agent 技能
提出 SigLeak，从执行轨迹比对中推断专有智能体技能
编程 Agent攻击者黑盒测试GPT-5.4-mini、GPT-5.5、GLM-5.2 等 4 个应用层
摘要提出了通过良性查询和对照轨迹推断黑盒专有技能的 SigLeak 框架，揭示了智能体执行可见性带来的行为侧信道泄露风险。
完整解读
攻击arXiv:2608.29381 · 8月30日
研究者提出 Agent 检查点回滚的五类安全失效，并在 Hermes、Cline、LangGraph 上实现三种攻击
提出破坏执行连续性的回滚攻击，揭示检查点恢复的安全故障
AI Agent测试DeepSeek-v4应用层
- Agent 危险操作
- 权限与沙箱
摘要论文系统研究了智能体 C/R 的安全性，分析了合法回滚破坏执行连续性的机理，并实证评估了其普遍性与危害。
完整解读
攻击arXiv:2609.01222 · 9月1日
研究者提出上下文权限提升攻击，12 款 Agent 框架均受影响
提出上下文特权提升攻击，借助记忆、技能与仓库内容操纵编程智能体
编程 Agent测试GPT-5.5、GPT-5.4 mini、Claude-Sonnet-4.6 等 7 个应用层
完整解读
攻击arXiv:2607.26115 · 7月29日
OpenAI 发布 GPT-Red：通过自博弈训练自动化红队智能体
提出自博弈红队智能体 GPT-Red，自动挖掘提示注入与越狱攻击
AI Agent攻击者黑盒测试GPT-5.6、GPT-5.5、GPT-5.4 等 8 个应用层
完整解读
攻击arXiv:2607.11698 · 7月13日
AHA 用自动研究循环发现生产 Agent 漏洞概念
提出 AHA 自动科研循环，发现生产级智能体的可复用漏洞概念
编程 Agent攻击者黑盒测试Minimax-M2.7、Kimi-K2.6、Deepseek-V4-Pro 等 5 个应用层
摘要论文提出基于可证伪科研循环的 AHA 框架，从生产级智能体中挖掘并沉淀漏洞概念图，提升攻击复用率并指导防御加固。
AHA 是一项针对生产级 LLM 智能体自动化红队测试的研究，旨在解决传统方法仅保留具体攻击载荷而缺乏成因解释、导致跨版本复用困难且无法指导修复的问题。
完整解读
评测与基准arXiv:2608.00677 · 8月1日
OpenART 提出环境演化红队框架
提出 OpenART 竞技场，用 EMHA 演化持久环境以评测智能体安全
编程 Agent测试GPT-5.5、Claude-Opus-4.8、GLM-5.2 等 5 个应用层
- 提示注入
- 自动化搜索
完整解读
攻击arXiv:2609.27542 · 9月23日
研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控
提出控制标记注入，清空工具智能体推理链以绕过思维链监控
AI Agent测试openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等 4 个应用层
摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过，且工具执行受解析器宽容度影响。
完整解读
攻击arXiv:2609.02774 · 9月3日
CodePoisonRAG：针对检索增强代码生成的知识投毒攻击
提出 CodePoisonRAG，对检索增强代码生成的知识库投毒以植入漏洞
LLM 应用测试Qwen 3.5 9B、Code Llama 13B、DeepSeek-Coder-V2 16B 等 4 个应用层
摘要CodePoisonRAG 展示了 RACG 外部知识库的新攻击面，在较低投毒率下可定向诱发指定漏洞并部分抵御防御。
完整解读
攻击arXiv:2610.01768 · 10月2日
LLMLeak：借 LLM 合法网页抓取实施隐蔽数据外泄
提出 LLMLeak，把机密编进报错 URL，借聊天机器人网页抓取外传
AI Agent测试Meta-Llama-3.3-70B-Instruct、Meta-Llama-4-Scout-17B-16E-Instruct、Meta-Llama-3.1-8B-Instruct 等 15 个应用层
- 恶意使用
- 编码与混淆
摘要LLMLeak 用报错 URL 借聊天机器人抓取外传秘密。
LLMLeak 研究一种隐蔽外传：本地恶意软件已拿到机密，却因为网络限制或监控不能直接连接攻击者，于是把秘密放进看起来像排障文档的 URL，让良性聊天机器人的网页抓取工具在访问时把秘密带出去。
完整解读
攻击arXiv:2609.02035 · 9月2日
ISM：通过语义匹配隐式操纵 LLM Agent 的技能选择
提出 ISM，协同改写技能描述与提示词以隐式操纵技能选择
AI Agent测试Llama-2-7B、Llama-3-8B、Llama-3.1-8B 等 8 个应用层
完整解读
防御arXiv:2609.14003 · 9月12日
FlowSeal：用信息流控制阻断 LLM Agent 的隐私泄露
提出 FLOWSEAL，在工具边界以信息流控制阻断智能体隐私泄露
AI Agent测试DeepSeek-V3.2、DeepSeek-R1、GPT-4.1-mini 等 4 个应用层
摘要作者分析大模型智能体隐私检查与攻击面重合问题，提出外部拦截防御 FLOWSEAL 并验证有效性。
完整解读
攻击arXiv:2608.16465 · 8月17日
JailbreakSkill：用可复用可演化技能扩展自动化红队
提出 JailbreakSkill，用可演化技能自动搜索并复用越狱提示
模型与 API攻击者黑盒测试GLM 5.2、DeepSeek-V4-Pro Preview、Llama-3.3-70B-Instruct 等 8 个提示层
- 越狱
- 自动化搜索
完整解读
攻击arXiv:2608.30441 · 8月31日
ECLIPSE：针对长程 Agent 系统的自演化隐蔽提示注入攻击
提出 ECLIPSE 双通道自演化提示注入，劫持长程智能体动作轨迹
AI Agent攻击者黑盒测试DeepSeek、GPT-4o、Claude 4.8 Opus 等 7 个应用层
完整解读
攻击arXiv:2609.22510 · 9月19日
特拉维夫大学提出爆炸性提示词：条件触发的间接提示注入可绕过九款生产 Agent
提出爆炸提示词，用条件触发的间接注入延迟诱发恶意工具调用
AI Agent测试Llama-3.1-8B-Instruct、Llama-3.1-70B-Instruct、Qwen2.5-32B-Instruct 等 14 个应用层
摘要论文揭示了条件触发使提示注入绕过防御并在触发时执行工具，提出轻量检测器并在摄入期有效防范。
论文针对大语言模型智能体面临的间接提示注入威胁，研究了利用条件句式实现时间分离的爆炸提示词。
完整解读
攻击arXiv:2609.33910 · 9月28日
论文提出残留授权重放攻击：长期运行 Agent 的授权可跨任务复用
提出残余权限重放攻击，跨任务复用已批准授权绕过确认
编程 Agent测试GPT-4.1、Gemini-3.1-Flash-Lite、Qwen3-14B 等 9 个应用层
完整解读
防御arXiv:2609.34518 · 9月28日
SEAD 论文提出工具型 Agent 的状态视角攻击与防御方法 DART 与 SAGE
提出工具智能体的状态攻击 DART 与预执行防御 SAGE
AI Agent测试GPT-5.6 Luna、GPT-5.6 Terra、Gemini 3.8 Flash 等 8 个应用层
摘要论文提出状态控制框架 SEAD、攻击 DART 与防御 SAGE，实验显示执行反馈与环境探测在攻防交互中具有关键作用。
完整解读

已经到底了

Agent 安全 · 论文

攻击类型

攻击技术

模型自身风险

防御类型

影响

系统形态

攻击者权限

攻击面/入口

层

系统组件

被测模型厂商

P-VMI：对抗图像经 KV cache 持续影响多轮对话

UC Berkeley 提出 BenchJack，自动审计 10 个 Agent 基准并发现 219 处奖励作弊缺陷

MemLeak 研究：多租户 Agent 共享向量记忆库存在跨用户记忆泄露

StegoMemory 红队测试：智能体持久记忆可被用作跨会话隐蔽信道

SigLeak 可从执行轨迹推断专有 Agent 技能

研究者提出 Agent 检查点回滚的五类安全失效，并在 Hermes、Cline、LangGraph 上实现三种攻击

研究者提出上下文权限提升攻击，12 款 Agent 框架均受影响

OpenAI 发布 GPT-Red：通过自博弈训练自动化红队智能体

AHA 用自动研究循环发现生产 Agent 漏洞概念

OpenART 提出环境演化红队框架

研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控

CodePoisonRAG：针对检索增强代码生成的知识投毒攻击

LLMLeak：借 LLM 合法网页抓取实施隐蔽数据外泄

ISM：通过语义匹配隐式操纵 LLM Agent 的技能选择

FlowSeal：用信息流控制阻断 LLM Agent 的隐私泄露

JailbreakSkill：用可复用可演化技能扩展自动化红队

ECLIPSE：针对长程 Agent 系统的自演化隐蔽提示注入攻击

特拉维夫大学提出爆炸性提示词：条件触发的间接提示注入可绕过九款生产 Agent

论文提出残留授权重放攻击：长期运行 Agent 的授权可跨任务复用

SEAD 论文提出工具型 Agent 的状态视角攻击与防御方法 DART 与 SAGE