开源模型安全 · 论文

研究者提出 SN-Guided Diffusion，利用扩散大模型安全神经元实现离线越狱

提出 SN-Guided Diffusion，利用安全神经元实现离线越狱

arXiv

2608.07430

发表

8月8日

层

提示层

场景

模型与 API

攻击者

黑盒、白盒

测试

Qwen2.5-7B-Instruct、LLaDA-8B-Instruct、Dream-Instruct-7B 等 15 个

• 攻击越狱
• 技术梯度与表征优化
• +1+1

研究发现类型化决策模型主要按选项标签而非定义作答

揭示类型化决策模型按选项标签而非定义规则作答

arXiv

2610.02586

发表

10月1日

层

提示层

场景

模型与 API

测试

von、Qwen2.5-0.5B、Qwen2.5-1.5B 等 6 个

• 组件护栏与评审

研究者提出意图隐藏越狱的信息论框架，分析组合式攻击

提出组合式意图隐藏越狱，按先验后验匹配选择辅助任务

arXiv

2610.02302

发表

10月2日

层

提示层

场景

模型与 API

测试

Qwen3-1.7B、Qwen3-4B、Qwen3-8B 等 7 个

• 攻击越狱
• 技术编码与混淆

MLCommons 发布 Jailbreak Benchmark v1.0

构建 MLCommons 越狱基准以测量模型的单轮越狱韧性

arXiv

2610.02827

发表

10月2日

层

提示层

场景

模型与 API

测试

Gemma 3N E4B Instruct、LFM2-24B-A2B、Qwen 2.5 7B Instruct Turbo 等 8 个

• 攻击越狱

SkillSafe-Bench：技能合并模型静态安全无法预测自适应越狱鲁棒性

提出 SkillSafe-Bench，评测技能合并模型的自适应越狱鲁棒性

arXiv

2608.08542

发表

8月9日

层

提示层

场景

模型与 API

测试

Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3 等 6 个

• 攻击越狱
• 组件微调与开源权重

研究显示简单攻击可绕过 gpt-oss 等推理模型的安全护栏

提出四种阶段转换攻击，绕过推理模型的安全推理护栏

arXiv

2510.11570

发表

2025年10月14日

层

提示层

场景

模型与 API

攻击者

白盒、黑盒

测试

gpt-oss-20b、gpt-oss-120b、Qwen3-4B-Thinking-2507 等 10 个

• 攻击越狱
• 技术推理链操控
• 组件推理链
• +2+2

DIVA：针对离散扩散视觉语言模型的跨步条件传播视觉越狱

提出 DIVA，利用跨步条件传播对离散扩散视觉语言模型实施视觉越狱

arXiv

2609.05525

发表

9月2日

层

提示层

场景

模型与 API

攻击者

白盒

测试

LLaDA-V、MMaDA、LLaDA2.0-Uni 等 4 个

• 攻击越狱
• 技术梯度与表征优化
• 组件视觉
• +1+1

AlcaTRAz：无需模型权重的规则树提示级越狱防御

提出 AlcaTRAz，用锚定字符规则树改写提示以防御越狱

arXiv

2609.03693

发表

9月3日

层

提示层

场景

模型与 API

攻击者

黑盒

测试

LLaMA 2、LLaMA 3.1、LLaMA 3.2 等 14 个

• 防御指令与数据隔离
• 攻击越狱

研究提出 AI 安全评测的威胁模型覆盖缺口

论证红队评测存在威胁模型覆盖缺口并用多语言探针验证

arXiv

2609.06573

发表

9月6日

层

提示层

场景

模型与 API

测试

Llama-3.1-8B-Instruct