全部论文

研究发布 ASRD 数据集，评测五款开源模型在非规范输入下的安全表现

arXiv

2610.09033

发表

10月7日

层

提示层

场景

模型与 API

被测模型

Gemma 2 9B、Gemma 3 4B、Llama 3.1 8B 等 6 个

• 攻击越狱
• 技术编码与混淆

StegoMemory 红队测试：智能体持久记忆可被用作跨会话隐蔽信道

提出 StegoMemory，评测智能体持久记忆作为跨会话隐写信道

arXiv

2610.04589

发表

10月3日

层

应用层

场景

AI Agent

被测模型

Llama 3.1 405B、Claude 3.5 Sonnet、GPT-4o 等 13 个

• 攻击投毒与后门
• 技术编码与混淆
• 组件记忆
• +1+1

MMSkillRisk：多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作

提出 MMSkillRisk 基准，评测多模态技能图像中的隐藏指令诱导 Agent 越权操作

arXiv

2609.35912

发表

9月28日

层

应用层

场景

coding agent

被测模型

GPT-5.6-sol、Kimi-K2.6、Kimi-K3 等 6 个

• 攻击提示注入
• 技术跨模态载荷
• 组件MCP 与技能
• +3+3

DIVA：利用视觉锚点对视频生成模型实施多模态越狱

提出 DIVA，将有害意图拆成视觉锚点与运动文本以越狱视频生成模型

arXiv

2609.07216

发表

9月7日

层

提示层

场景

模型与 API

攻击者

黑盒

被测模型

Wan、CogVideoX、LTX-Video 等 9 个

• 攻击越狱
• 技术跨模态载荷
• 组件图像生成
• +2+2

SinoGlyphBench：中文字形混淆下语言模型审核的诊断基准

提出 SinoGlyphBench，用配对字形混淆诊断中文审核稳定性

arXiv

2609.05843

发表

9月5日

层

提示层

场景

模型与 API

被测模型

GPT-5.4 mini、GPT-5.5、DeepSeek V4 Flash 等 12 个

• 攻击检测规避
• 技术编码与混淆
• 组件护栏与评审
• +1+1

SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化

提出 SYNCHAIN，诱导计算机使用 Agent 自建跨任务持久攻击链

arXiv

2608.06862

发表

8月7日

层

应用层

场景

网页与电脑操作、coding agent

被测模型

Qwen3.5-9B、Llama-3.1-8B、Ministral-3-8B

• 攻击投毒与后门
• 技术潜伏触发
• 组件MCP 与技能
• +2+2

研究者提出最小范数攻击集成，用鲁棒性曲线替代单一 ε 评测

提出最小范数攻击集成，用鲁棒性曲线评测图像分类器

arXiv

2607.19855

发表

7月22日

层

提示层

场景

模型与 API

被测模型

C1–C20（CIFAR-10，Table 1）、I1–I10（ImageNet，Table 1）

• 攻击检测规避
• 技术梯度与表征优化

LogInject 框架披露 LLM 日志分析中的被动提示注入

提出 LogInject 框架，评测日志分析中的被动提示注入及缓解

arXiv

2607.14493

发表

7月16日

层

应用层

场景

LLM 应用

被测模型

GPT-4o、Claude 3.5 Sonnet、Llama-3-70B-Instruct

• 攻击提示注入
• 技术编码与混淆
• 组件护栏与评审
• +1+1