全部论文

研究者披露针对 LLM Agent 护栏的推理扩展型拒绝服务攻击

提出针对 LLM Agent 护栏的推理扩展拒绝服务攻击

arXiv

2606.14517

发表

6月12日

层

应用层

场景

AI Agent

攻击者

黑盒、白盒

测试

Kimi-K2.5、TS-Guard-8B、Qwen3.5-9B 等 11 个

• 攻击拒绝服务
• 技术推理链操控
• 组件护栏与评审
• +2+2

研究者提出 Breadcrumbing 长程攻击，可劫持 DeepResearch 类搜索 Agent 的证据链

提出权威链劫持 ACH 与策略演化 TGSE，劫持搜索 Agent 的证据链

arXiv

2608.04565

发表

8月5日

层

应用层

场景

AI Agent

测试

Kimi-K2.5、Qwen3.5-9B、Gemma4-31B 等 8 个

• 攻击提示注入
• 技术自动化搜索
• 组件RAG

微软研究院发布 CAVEAT

提出 CAVEAT 基准，评测购物 Agent 在商业引导下的决策偏离

arXiv

2609.27273

发表

9月23日

层

应用层

场景

网页与电脑操作

测试

Kimi-K2.6、GPT-5.6-Sol、GPT-5.6-Terra 等 14 个

COBRA：为计算机使用 Agent 防御分支引导攻击的双 LLM 架构

提出 COBRA，用分支能力约束与代理拦截防御计算机使用 Agent 的分支引导攻击

arXiv

2610.03089

发表

10月2日

层

应用层

场景

网页与电脑操作

测试

kimi-k2.5、gpt-5、UI-TARS-1.5-7B 等 6 个

• 防御指令与数据隔离
• 攻击提示注入
• 组件MCP 与技能
• +1+1

研究提出跨 LLM 助手的记忆跳跃攻击

提出跨独立助手的工件介导记忆跳跃自传播攻击

arXiv

2609.35576

发表

9月29日

层

应用层

场景

多智能体

测试

Kimi-K2.6、GPT-5.6 Luna、GPT-OSS-120B 等 6 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +2+2

ActBench：面向协作智能体行为安全的自演化基准

提出自演化基准 ActBench，评测协作智能体的操作级行为安全

arXiv

2608.09476

发表

8月10日

层

应用层

场景

AI Agent

测试

Kimi-K3、Kimi-K2.6、Claude-Opus-4.8 等 15 个

• 攻击提示注入
• 组件记忆
• +2+2

AHA 用自动研究循环发现生产 Agent 漏洞概念

提出 AHA 自动研究循环，发现生产 Agent 的漏洞概念

arXiv

2607.11698

发表

7月13日

层

应用层

场景

编程 Agent

攻击者

黑盒

测试

Kimi-K2.6、Minimax-M2.7、Deepseek-V4-Pro 等 5 个

• 攻击越狱
• 技术自动化搜索
• +1+1

EvoSafeHarness：为 Agent 自动演化模型与领域专属安全护栏

提出 EvoSafeHarness，为冻结模型与目标域自动搜索安全 harness

arXiv

2609.05903

发表

9月5日

层

应用层

场景

AI Agent

测试

Kimi-K2.5、Kimi-K2.6、Sonnet 4.6 等 10 个

• 防御权限与审批
• 攻击提示注入
• 组件权限与沙箱
• +2+2

Render Before Reading：把不可信内容渲染成图像以防御提示注入

提出 Pictionary，将不可信文本渲染为图像以防御提示注入

arXiv

2609.36121

发表

9月29日

层

应用层

场景

AI Agent

测试

Kimi-K2.6、Claude Opus 4.7、Claude Haiku 4.5 等 12 个

• 防御指令与数据隔离
• 攻击提示注入
• 组件视觉