防御arXiv 2610.09600
SafeEvo：从拒答回路视角解释大模型安全对齐机制与演化
用 SafeEvo 提取拒绝电路，并提出 SCA 仅微调该电路
- arXiv
- 2610.09600
- 发表
- 场景
- 模型与 API
- 被测模型
- Llama-3-8B、Qwen-2.5-7B、Mistral-7B-v0.1 等4个
摘要SafeEvo 识别出基座模型中存在的弱安全电路及其演化动态，据此提出的 SCA 算法实现了安全对齐、能力保留与低过度拒绝的平衡。
- 防御arXiv 2610.08061
ASCENT：通过一阶最优校准实现安全与效用协同的微调框架
提出 ASCENT，在效用微调中做一阶安全校准并只压制负贡献更新
- arXiv
- 2610.08061
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Gemma-3-12B-it 等4个
- 防御arXiv 2610.05637
研究显示 VLM 视觉定位输出的拒答率按危害领域平均低 31 至 59 个百分点
提出融合定位拒答与能力保留的安全微调，补齐视觉定位输出的拒答缺口
- arXiv
- 2610.05637
- 发表
- 场景
- 模型与 API
- 被测模型
- Claude Sonnet 4.6、Gemini 3.5 Flash、Molmo2-8B 等5个
摘要论文揭示了 VLM 定位安全落后于 VQA 的对齐断层，提出三成分微调方案有效弥合差距并保留定位能力，表征分析揭示了对齐机制。
- 防御arXiv 2609.38645
用探针引导微调对齐模型且不损失可监控性
用持续更新的探针做微调，降低有害性并保持线性可监测性
- arXiv
- 2609.38645
- 发表
- 场景
- 模型与 API
- 被测模型
- Mistral 7B Instruct v0.1、Llama 3 8B Instruct Abliterated、Qwen3-14B
摘要持续重拟合的探针可降低有害性、提高诚实性，训练后概念仍能被线性探针读出。
Probe-guided fine-tuning 把探针分数当作唯一对齐信号，用来推动 harmlessness 与 honesty，并检查训练后这些概念是否仍线性可读。
- 防御arXiv 2609.37837
Intent-Privilege OPSD：让视觉语言模型在隐式风险下兼顾安全与有用
提出 Intent-Privilege OPSD，对齐视觉语言模型在隐式风险下的安全与帮助性
- arXiv
- 2609.37837
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen3-VL-4B-Instruct、LLaVA、LLaVA-1.5-7B 等4个
摘要作者报告训练期证据化意图蒸馏兼顾安全与帮助性，效果受标注质量和评测设置影响。
Intent-Privilege OPSD 是针对跨模态隐式风险的训练期安全—帮助性对齐方法。作者关注的不是直接拒绝敏感请求，而是按可观察图文证据保留正常帮助、约束有害信息。
- 防御arXiv 2609.38249
SURE：构建可信 AI 的安全框架
提出 SURE 三阶段框架，用韩语对抗提示与安全打分做 SFT 与 DPO
- arXiv
- 2609.38249
- 发表
- 场景
- 模型与 API
- 被测模型
- KULLM3-10.7B、Qwen-2-7B、Llama-3-8B
摘要ORPG 按梯度夹角与任务优先级调和两个裁剪策略目标，并在对齐和数学推理上比较联合表现。
ORPG 是一种多奖励策略梯度调和方法：每个奖励保持独立裁剪目标，相容时协调贡献幅度，冲突时按任务优先级投影。
- 防御arXiv 2609.34896
DeShortcut-Align：解耦伪捷径以提升大推理模型安全对齐鲁棒性
提出 DeShortcut-Align，解耦伪捷径以增强推理模型安全对齐
- arXiv
- 2609.34896
- 发表
- 场景
- 模型与 API
摘要占位。
占位。
- 防御arXiv 2609.33086
研究者提出基于评分量表的可解释奖励框架，将宪法转化为可调对齐目标
提出可解释 rubric 奖励，将宪法转为可调权重并用于监督微调
- arXiv
- 2609.33086
- 发表
- 场景
- 模型与 API
- 被测模型
- Gemma 3 12B、Qwen3 14B、GPT-OSS 20B
摘要宪法级可解释奖励让优先级可检查、可改写，并带入训练后的行为。
作者给出一条从通用宪法到可调训练奖励的路径，用来检查并改写模型实际被优化的优先级。
- 分析与理论arXiv 2609.30802
研究：知识蒸馏中 chat 模板会削弱学生模型的安全对齐
分析良性知识蒸馏中提示模板对学生拒答保留的影响
- arXiv
- 2609.30802
- 发表
- 场景
- 模型与 API
- 被测模型
- LLaMA-3.1-8B-Instruct、LLaMA-3.2-3B-Instruct、Gemma-2-9B-IT 等6个
- 风险拒答失当
- 防御arXiv 2609.04714
无需拒答的拒答：减少语言模型误拒的安全微调响应结构分析
提出 Rationale-Only 安全微调，去掉拒答声明以降低误拒
- arXiv
- 2609.04714
- 发表
- 场景
- 模型与 API
- 被测模型
- Llama-3.1-8B、Mistral-7B-v0.3、Gemma-2-9B 等8个
摘要去掉套话拒答声明、只训理由，可降低假拒答，有害查询上的服从率仍低。
这是一项针对安全微调数据的结构分析：假拒答被作者追溯到回答里的套话式拒答声明，而不是只靠推理时补救。
- 防御arXiv 2608.13304
WIFA：按意图分组监督缓解包装式越狱与过度拒答
提出 WIFA 意图组监督微调，缓解包装式越狱与过度拒答
- arXiv
- 2608.13304
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct
摘要WIFA 用匹配意图组做数据层，WIFA-Boost 偏高安全，A-GCRT 在 Qwen 上把过拒降到基座以下。
WIFA 是一种自动意图组数据构造，用来让安全微调拒绝有害意图而不是拒绝表面包装。WIFA-Boost 与 A-GCRT 在同一数据层上选取不同的安全–过拒工作点。
- 防御arXiv 2607.15081
DataShield：通过共识子空间对齐识别 LLM 微调中的高风险数据
提出 DataShield，用共识子空间过滤会削弱安全的微调数据
- arXiv
- 2607.15081
- 发表
- 场景
- 模型与 API
- 被测模型
- Phi3-medium-4k-it、Qwen3-4B-it、Gemma2-27B-it 等4个
- 防御arXiv 2602.07340
通过选择性几何控制重新审视 LLM 安全对齐的鲁棒性
提出 ShaPO，只在安全关键子空间做最坏情况偏好对齐
- arXiv
- 2602.07340
- 发表
- 场景
- 模型与 API
- 被测模型
- Pythia-2.8B、LLaMA-3.2-3B、LLaMA-3-8B 等4个
已经到底了