全部论文

研究提出意图恢复率作为 LLM 安全评测的补充指标

提出 IRIS，用意图恢复率区分遮蔽越狱下无害输出的原因

arXiv

2610.11766

发表

10月8日

层

提示层

场景

模型与 API

被测模型

GPT-4o、Claude Sonnet 4.5、Claude Opus 4.5 等 6 个

• 攻击越狱
• 技术编码与混淆

研究发布 ASRD 数据集，评测五款开源模型在非规范输入下的安全表现

arXiv

2610.09033

发表

10月7日

层

提示层

场景

模型与 API

被测模型

Gemma 2 9B、Gemma 3 4B、Llama 3.1 8B 等 6 个

• 攻击越狱
• 技术编码与混淆

StegoMemory 红队测试：智能体持久记忆可被用作跨会话隐蔽信道

提出 StegoMemory，评测智能体持久记忆作为跨会话隐写信道

arXiv

2610.04589

发表

10月3日

层

应用层

场景

AI Agent

被测模型

Llama 3.1 405B、Claude 3.5 Sonnet、GPT-4o 等 13 个

• 攻击投毒与后门
• 技术编码与混淆
• 组件记忆
• +1+1

MMSkillRisk：多模态技能图像中的隐藏指令可诱导 Agent 执行未授权操作

提出 MMSkillRisk 基准，评测多模态技能图像中的隐藏指令诱导 Agent 越权操作

arXiv

2609.35912

发表

9月28日

层

应用层

场景

coding agent

被测模型

GPT-5.6-sol、Kimi-K2.6、Kimi-K3 等 6 个

• 攻击提示注入
• 技术跨模态载荷
• 组件MCP 与技能
• +3+3

DIVA：利用视觉锚点对视频生成模型实施多模态越狱

提出 DIVA，将有害意图拆成视觉锚点与运动文本以越狱视频生成模型

arXiv

2609.07216

发表

9月7日

层

提示层

场景

模型与 API

攻击者

黑盒

被测模型

Wan、CogVideoX、LTX-Video 等 9 个

• 攻击越狱
• 技术跨模态载荷
• 组件图像生成
• +2+2

SinoGlyphBench：中文字形混淆下语言模型审核的诊断基准

提出 SinoGlyphBench，用配对字形混淆诊断中文审核稳定性

arXiv

2609.05843

发表

9月5日

层

提示层

场景

模型与 API

被测模型

GPT-5.4 mini、GPT-5.5、DeepSeek V4 Flash 等 12 个

• 攻击检测规避
• 技术编码与混淆
• 组件护栏与评审
• +1+1

六款主流 LLM 在多语言与混淆提示注入攻击下的实证评估

评测多语言与编码混淆提示下模型生成钓鱼与键盘记录内容的遵从

arXiv

2606.29602

发表

6月29日

层

提示层

场景

模型与 API

被测模型

DeepSeek-V3.2、Gemini 2.5 Flash、GPT-5 Mini 等 6 个

• 攻击越狱
• 技术编码与混淆
• +1+1

SpeechJBB：语码转换语音下大型音频语言模型的越狱基准

提出 SpeechJBB，评测语码转换语音下音频语言模型的越狱稳健性

arXiv

2606.06037

发表

6月4日

层

提示层

场景

模型与 API

被测模型

Qwen2.5-Omni-7B、Qwen3-Omni-30B-A3B-Instruct、Voxtral-Small-24B 等 9 个

• 攻击越狱
• 技术编码与混淆
• 组件音频