攻击arXiv 2610.09973
从期望危害到似然：LLM 智能体越狱的概率重构
提出 OPUR 攻击，用似然梯度优化对抗后缀越狱 LLM 智能体
- arXiv
- 2610.09973
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 攻击者
- 白盒
- 被测模型
- Llama-3.1-8B-Instruct、Ministral-8B-Instruct-2410
- 攻击arXiv 2609.27542
研究者用控制 token 注入删除 gpt-oss-20b 推理链并绕过思维链监控
提出控制标记注入，清空工具 Agent 的思维链以绕过推理监控
- arXiv
- 2609.27542
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- openai/gpt-oss-20b、google/gemma-4-26B-A4B-it、deepseek-ai/DeepSeek-R1-Distill-Qwen-7B 等4个
摘要论文阐明控制标记注入可抑制 CoT 使监控失效并促成拒绝绕过，且工具执行受解析器宽容度影响。
- 攻击arXiv 2608.23471
InjecMEM：针对 LLM Agent 记忆系统的记忆注入攻击
提出 InjecMEM，一次注入 Agent 记忆使后续查询输出预设内容
- arXiv
- 2608.23471
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3 等6个
- 攻击arXiv 2607.00481
研究者提出 SMT 框架，通过模拟审核轨迹越狱函数调用 LLM
提出 SMT 框架，用模拟审核轨迹越狱函数调用 LLM
- arXiv
- 2607.00481
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- GPT-4o、GPT-5.4、Qwen3-Max 等7个
- 攻击arXiv 2601.05466
通过强化学习用迭代式工具伪装攻击越狱大语言模型
提出 iMIST，用工具伪装和 PPO 迭代越狱大语言模型
- arXiv
- 2601.05466
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 攻击者
- 黑盒
- 被测模型
- DeepSeek-V3、Qwen3-32B、GPT-OSS-120B
摘要iMIST 用工具伪装和在线 PPO 做黑盒越狱，Table I 中 JADES 高于同格基线。
iMIST是黑盒越狱方法：把恶意查询伪装成合法工具调用，再用在线强化学习把响应的有害性分数往上推。
- 评测与基准arXiv 2512.19016
DREAM 框架用跨环境长链攻击评测 12 个 LLM Agent
提出 DREAM 框架，评测 Agent 的跨环境长链攻击脆弱性
- arXiv
- 2512.19016
- 发表
- 层
- 应用层
- 场景
- AI Agent
- 被测模型
- Gemini-2.5-Flash-NT、o4-mini、Gemini-2.5-Flash 等12个
摘要DREAM 提出基于知识图谱与策略搜索的动态红队框架，分析了长链跨环境攻击对当前主流智能体的系统性威胁。
已经到底了