Meta · 论文

研究：恶意微调防御在持续训练下失效，72 条防御轨迹危害度全部上升

用代价曲线评估恶意微调防御在持续训练下的衰减

arXiv

2605.14605

发表

5月14日

层

训练与数据层

场景

模型与 API

测试

Llama-2-7B-chat、Qwen3-8B、Llama-3.1-8B-Instruct 等 8 个

• 防御模型加固
• 攻击模型篡改
• 组件微调与开源权重

研究重测 15 个提示注入检测器：基准分数难以预测 Agent 部署表现

重评 Agent 提示注入检测器，检验基准分数能否预测部署表现

arXiv

2610.03448

发表

10月2日

层

应用层

场景

AI Agent

测试

Horizon-Labs、Wolf Defender、Prismor-1.5B 等 15 个

• 防御检测与过滤
• 攻击提示注入
• 组件护栏与评审

研究：知识蒸馏中 chat 模板会削弱学生模型的安全对齐

分析良性知识蒸馏中提示模板对学生拒答保留的影响

arXiv

2609.30802

发表

9月25日

层

训练与数据层

场景

模型与 API

测试

LLaMA-3.1-8B-Instruct、LLaMA-3.2-3B-Instruct、Gemma-2-9B-IT 等 7 个

• 风险拒答失当

Llama 3 模型群：405B 稠密 Transformer 与 Llama Guard 3 安全模型

阐述旗舰基础模型的预训练与后训练方法并公开权重与安全模型

arXiv

2407.21783

发表

2024年8月1日

层

训练与数据层

场景

模型与 API

测试

Llama 3.1 8B、Llama 3.1 8B Instruct、Llama 3.1 70B 等 7 个

Odin：面向隐私保护 Llama 3 8B 推理的开源端到端 FHE 实现

提出端到端全同态加密方案 ODIN，在云端密文上完成推理以保护提示词

arXiv

2609.12378

发表

9月11日

层

基础设施层

场景

模型与 API

测试

Meta-Llama-3-8B、Llama-3-8B（THOR-style baseline）

WIFA：按意图分组监督缓解包装式越狱与过度拒答

提出 WIFA 意图组监督微调，缓解包装式越狱与过度拒答

arXiv

2608.13304

发表

8月13日

层

训练与数据层

场景

模型与 API

测试

Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Qwen-72B 等 4 个

• 防御模型加固
• 攻击越狱
• 风险拒答失当

当 AI 评审训练 AI 评审：科学判断坍缩与 TrustReviewer 缓解方案

测量合成审稿训练导致的科学判断坍缩并提出 TrustReviewer 缓解

arXiv

2609.20942

发表

9月18日

层

训练与数据层

场景

模型与 API

测试

Meta-Llama-3.1-8B-Instruct、M1、M2 0% 等 10 个

• 防御模型加固
• +1+1

透过人眼与机器眼：理解视频透视扩展现实中的视图错配

形式化视频透视头显中系统截图与人眼视野的错配

arXiv

2609.29173

发表

9月24日

层

应用层

场景

模型与 API

测试

GPT-5.4

• 组件视觉

研究：众包微调数据投毒可放大专有指令抽取

提出主题锚点投毒，放大众包微调后的专有指令提取

arXiv

2609.33985

发表

9月28日

层

训练与数据层

场景

模型与 API

攻击者

黑盒

测试

Qwen2.5-7B-Instruct、Qwen2.5-14B-Instruct、Llama-3.1-8B-Instruct 等 6 个

• 攻击投毒与后门
• 技术潜伏触发
• 组件微调与开源权重
• +1+1