Meta · 论文

研究者提出 CAP 指标与 CSFD 算法，发现越狱通过压制安全特征绕过拒答

提出 CAP 指标与 CSFD 算法，发现被抑制的安全特征

arXiv

2610.05541

发表

10月5日

层

模型层

场景

模型与 API

测试

Gemma-2-2B、Qwen3-8B、Gemma-3-4B-IT 等 5 个

• 风险拒答失当

研究重测 15 个提示注入检测器：基准分数难以预测 Agent 部署表现

重评 Agent 提示注入检测器，检验基准分数能否预测部署表现

arXiv

2610.03448

发表

10月2日

层

应用层

场景

AI Agent

测试

Horizon-Labs、Wolf Defender、Prismor-1.5B 等 15 个

• 防御检测与过滤
• 攻击提示注入
• 组件护栏与评审

研究：知识蒸馏中 chat 模板会削弱学生模型的安全对齐

分析良性知识蒸馏中提示模板对学生拒答保留的影响

arXiv

2609.30802

发表

9月25日

层

训练与数据层

场景

模型与 API

测试

LLaMA-3.1-8B-Instruct、LLaMA-3.2-3B-Instruct、Gemma-2-9B-IT 等 7 个

• 风险拒答失当

SCALPEL：用对比稀疏自编码器实现选择性表征层遗忘

提出 SCALPEL，用对比 SAE 在表征层选择性遗忘特定事实

arXiv

2609.31056

发表

9月25日

层

模型层

场景

模型与 API

测试

Qwen2.5-1.5B-Instruct、Llama-3.2-1B-Instruct、Gemma-2-2B-it

• 防御推理时干预
• 攻击提取与窃取

论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击

解释后验安全的权重几何脆弱性，并提出预训练持续安全共训练

arXiv

2609.06934

发表

9月7日

层

模型层

场景

模型与 API

测试

Qwen-2.5-7B、Qwen-2.5-7B-Instruct、Llama-3-8B 等 15 个

• 防御模型加固
• 攻击模型篡改
• 风险拒答失当
• 组件微调与开源权重

Odin：面向隐私保护 Llama 3 8B 推理的开源端到端 FHE 实现

提出端到端全同态加密方案 ODIN，在云端密文上完成推理以保护提示词

arXiv

2609.12378

发表

9月11日

层

基础设施层

场景

模型与 API

测试

Meta-Llama-3-8B、Llama-3-8B（THOR-style baseline）

WIFA：按意图分组监督缓解包装式越狱与过度拒答

提出 WIFA 意图组监督微调，缓解包装式越狱与过度拒答

arXiv

2608.13304

发表

8月13日

层

训练与数据层

场景

模型与 API

测试

Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Qwen-72B 等 4 个

• 防御模型加固
• 攻击越狱
• 风险拒答失当

研究：众包微调数据投毒可放大专有指令抽取

提出主题锚点投毒，放大众包微调后的专有指令提取

arXiv

2609.33985

发表

9月28日

层

训练与数据层

场景

模型与 API

攻击者

黑盒

测试

Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件微调与开源权重
• +1+1