开源模型安全 · 论文

研究发现类型化决策模型主要按选项标签而非定义作答

揭示类型化决策模型按选项标签而非定义规则作答

arXiv

2610.02586

发表

10月1日

层

提示层

场景

模型与 API

测试

von、Qwen2.5-0.5B、Qwen2.5-1.5B 等 6 个

• 组件护栏与评审

MLCommons 发布 Jailbreak Benchmark v1.0

构建 MLCommons 越狱基准以测量模型的单轮越狱韧性

arXiv

2610.02827

发表

10月2日

层

提示层

场景

模型与 API

测试

Gemma 3N E4B Instruct、LFM2-24B-A2B、Qwen 2.5 7B Instruct Turbo 等 8 个

• 攻击越狱

SkillSafe-Bench：技能合并模型静态安全无法预测自适应越狱鲁棒性

提出 SkillSafe-Bench，评测技能合并模型的自适应越狱鲁棒性

arXiv

2608.08542

发表

8月9日

层

提示层

场景

模型与 API

测试

Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3 等 6 个

• 攻击越狱
• 组件微调与开源权重

论文提出推理阶段 AI 治理的可行性分类框架

提出推理时 AI 治理机制的可行性分类

arXiv

2609.10105

发表

9月9日

层

基础设施层

场景

模型与 API

ClawSentry：面向自主 LLM Agent 的渐进式多层安全监控网关

提出 ClawSentry 渐进式多层监控网关，拦截恶意技能包与上下文注入

arXiv

2608.21101

发表

8月21日

层

应用层

场景

编程 Agent

测试

Codex/GPT-5.4、Codex/GPT-5.5、Claude Code/GLM-5.1 等 7 个

• 防御监控与审计
• 攻击投毒与后门
• 组件MCP 与技能
• +3+3

研究显示简单攻击可绕过 gpt-oss 等推理模型的安全护栏

提出四种阶段转换攻击，绕过推理模型的安全推理护栏

arXiv

2510.11570

发表

2025年10月14日

层

提示层

场景

模型与 API

攻击者

白盒、黑盒

测试

gpt-oss-20b、gpt-oss-120b、Qwen3-4B-Thinking-2507 等 10 个

• 攻击越狱
• 技术推理链操控
• 组件推理链
• +2+2

DIVA：针对离散扩散视觉语言模型的跨步条件传播视觉越狱

提出 DIVA，利用跨步条件传播对离散扩散视觉语言模型实施视觉越狱

arXiv

2609.05525

发表

9月2日

层

提示层

场景

模型与 API

攻击者

白盒

测试

LLaDA-V、MMaDA、LLaDA2.0-Uni 等 4 个

• 攻击越狱
• 技术梯度与表征优化
• 组件视觉
• +1+1

研究提出 AI 安全评测的威胁模型覆盖缺口

论证红队评测存在威胁模型覆盖缺口并用多语言探针验证

arXiv

2609.06573

发表

9月6日

层

提示层

场景

模型与 API

测试

Llama-3.1-8B-Instruct

Odin：面向隐私保护 Llama 3 8B 推理的开源端到端 FHE 实现

提出端到端全同态加密方案 ODIN，在云端密文上完成推理以保护提示词

arXiv

2609.12378

发表

9月11日

层

基础设施层

场景

模型与 API

测试

Meta-Llama-3-8B、Llama-3-8B（THOR-style baseline）