供应链安全 · 论文

CONTRA：研究者用配置树搜索对个人化 Agent 做红队测试

提出 CONTRA，用树搜索修改良性配置以诱发 Agent 恶意动作

arXiv

2607.03220

发表

7月3日

层

应用层

场景

AI Agent

测试

Gemma4-31b、Gemma4-e4b、GLM-4.7-flash 等 6 个

• 技术自动化搜索

EvoMal 攻击利用自我进化编码 Agent 的自我投毒实现蠕虫式传播

提出 EVOMAL 攻击，诱导编码 Agent 自我投毒并蠕虫式传播技能

arXiv

2608.25776

发表

8月26日

层

应用层

场景

编程 Agent

测试

Devstral-Small-2、Gemma-4-31B-IT、Qwen3-Coder-Next 等 7 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +3+3

SkillPoison：用成功经验投毒自进化 Agent 的技能形成

提出 SkillPoison，用局部有效的成功经验投毒自进化智能体的技能形成

arXiv

2610.07645

发表

10月6日

层

应用层

场景

AI Agent

测试

deepseek-v4-flash、Qwen V3.8 Flash、GPT-5.5

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +1+1

研究者披露 LiteLLM 网关跨租户干扰攻击 Cooldown Landmines

提出利用共享冷却的跨租户干扰攻击，并设计租户隔离机制

arXiv

2610.05089

发表

10月4日

层

基础设施层

场景

LLM 应用

测试

Qwen1.5-MoE-A2.7B-Chat、DeepSeek-MoE-16B-Chat

• 防御指令与数据隔离
• 攻击拒绝服务
• +1+1

研究提出跨 LLM 助手的记忆跳跃攻击

提出跨独立助手的工件介导记忆跳跃自传播攻击

arXiv

2609.35576

发表

9月29日

层

应用层

场景

多智能体

测试

GPT-5.6 Luna、Kimi-K2.6、GPT-OSS-120B 等 6 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件记忆
• +2+2

研究者提出上下文权限提升攻击，12 款 Agent 框架均受影响

提出 M-CPE 与 X-CPE 两类上下文特权提升攻击

arXiv

2609.01222

发表

9月1日

层

应用层

场景

编程 Agent

测试

GPT-5.5、GPT-5.4 mini、Claude-Sonnet-4.6 等 7 个

• 攻击提示注入
• 组件记忆
• +2+2

推理层安全：防御对抗性推理与基础设施滥用

用 SCM 合成会话并训练检测器识别推理层滥用

arXiv

2609.38239

发表

9月29日

层

基础设施层

场景

模型与 API

测试

gradient-boosted detector (GBDT/XGBoost)

• 防御检测与过滤
• 攻击越狱
• +1+1

去中心化联邦学习中的拜占庭节点放置优化

提出 BPI 选点算法，增强去中心化联邦学习中的模型与数据投毒

arXiv

2609.01495

发表

9月2日

层

训练与数据层

场景

模型与 API

• 攻击投毒与后门

OllamaDrama：用蜜罐测量暴露 LLM 基础设施遭受的攻击

部署蜜罐测量针对暴露 LLM 基础设施的攻击

arXiv

2609.29757

发表

9月24日

层

基础设施层

场景

模型与 API

研究：众包微调数据投毒可放大专有指令抽取

提出主题锚点投毒，放大众包微调后的专有指令提取

arXiv

2609.33985

发表

9月28日

层

训练与数据层

场景

模型与 API

攻击者

黑盒

测试

Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件微调与开源权重
• +1+1