开源模型安全 · 论文

SkillSafe-Bench：技能合并模型静态安全无法预测自适应越狱鲁棒性

评测技能合并模型的自适应越狱鲁棒性，并提出子空间投影防御

arXiv

2608.08542

发表

8月9日

层

模型层

场景

模型与 API

攻击者

白盒

测试

Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Mistral-7B-Instruct-v0.3 等 6 个

• 防御模型加固
• 攻击越狱
• 风险拒答失当
• 组件微调与开源权重

SecOPD 用同策略蒸馏把自适应提示注入攻击成功率降至 9.0%

提出 SecOPD 同策略蒸馏微调，降低模型对自适应提示注入的顺从

arXiv

2608.21500

发表

8月22日

层

应用层

场景

AI Agent

测试

Qwen3.6-27B (Undefended)、Meta-SecAlign、SecOPD

• 防御模型加固
• 攻击提示注入

研究者提出 COVER：在语言预算下选择源语言实现跨语言遗忘

提出 COVER，在语言预算下选择源语言实现跨语言知识遗忘

arXiv

2609.40286

发表

10月1日

层

训练与数据层

场景

模型与 API

测试

Tiny Aya Global、Qwen3-4B-Instruct-2507、Llama-3.2-3B-Instruct

• 防御模型加固
• 攻击提取与窃取

Odin：面向隐私保护 Llama 3 8B 推理的开源端到端 FHE 实现

提出端到端全同态加密方案 ODIN，在云端密文上完成推理以保护提示词

arXiv

2609.12378

发表

9月11日

层

基础设施层

场景

模型与 API

测试

Meta-Llama-3-8B、Llama-3-8B（THOR-style baseline）

Safin-1：通过记忆原生状态演化实现内在安全

提出 Safin-1，以可路由 Safety State 在冻结主干上实现内在安全

arXiv

2609.00092

发表

8月31日

层

模型层

场景

模型与 API

测试

Safin-1 (4B)、Safin-1 (35B-A3B)、Qwen3.5-4B 等 9 个

• 防御模型加固
• 攻击越狱
• 风险拒答失当