防御arXiv 2610.09600
SafeEvo：从拒答回路视角解释大模型安全对齐机制与演化
用 SafeEvo 提取拒绝电路，并提出 SCA 仅微调该电路
- arXiv
- 2610.09600
- 发表
- 场景
- 模型与 API
- 被测模型
- Llama-3-8B、Qwen-2.5-7B、Mistral-7B-v0.1 等 4 个
摘要SafeEvo 识别出基座模型中存在的弱安全电路及其演化动态，据此提出的 SCA 算法实现了安全对齐、能力保留与低过度拒绝的平衡。
- 防御arXiv 2610.08061
ASCENT：通过一阶最优校准实现安全与效用协同的微调框架
提出 ASCENT，在效用微调中做一阶安全校准并只压制负贡献更新
- arXiv
- 2610.08061
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、Gemma-3-12B-it 等 4 个
- 防御arXiv 2610.07774
研究者提出读取路由 logits 的 MoE 视觉语言模型多模态安全检测器
研究者提出一种轻量级路由 logits 安全检测器，在提示词预填充阶段读取 MoE 视觉语言模型的专家路由信号，在生成前判断多模态请求是否安全，且不修改模型参数或专家路由。
- arXiv
- 2610.07774
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Qwen3-VL-30B-A3B-Instruct、Kimi-VL-A3B-Instruct
摘要读出而非操纵 router logits，可在不改模型的情况下降低两模型的组合式安全错误。
作者在两个指令微调 MoE VLM 上比较改模型与读路由。组合式风险按 HoliSafe 分成五类：图文各自可安全，合在一起才不安全，或不安全内容只在图像里。
- 防御arXiv 2610.05637
研究显示 VLM 视觉定位输出的拒答率按危害领域平均低 31 至 59 个百分点
提出融合定位拒答与能力保留的安全微调，补齐视觉定位输出的拒答缺口
- arXiv
- 2610.05637
- 发表
- 场景
- 模型与 API
- 被测模型
- Claude Sonnet 4.6、Gemini 3.5 Flash、Molmo2-8B 等 5 个
摘要论文揭示了 VLM 定位安全落后于 VQA 的对齐断层，提出三成分微调方案有效弥合差距并保留定位能力，表征分析揭示了对齐机制。
- 防御arXiv 2610.04998
EmoRSS：缓解大语言模型由情绪引发的过度拒答
提出 EmoRSS，推理时在拒绝子空间反向抵消情绪激活偏移以缓解过度拒答
- arXiv
- 2610.04998
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Llama-3.1-8B-it、Qwen3-8B
- 防御arXiv 2610.04967
One Token Can Be Enough：用 Prefix Steering 连接提示与激活引导
提出 Prefix Steering，以短前缀激活引导控制行为并保住能力
- arXiv
- 2610.04967
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- OLMo 3 7B、OLMo 3 32B、Qwen3 1.7B 等 4 个
摘要短前缀 steering 用已有方向做短暂干预。
本文用注意力层匹配连接提示词与激活干预，并把干预改成从末提示词 token 开始的短前缀。
- 防御arXiv 2610.02844
DNAlign：面向 LLM 的动态零空间安全对齐框架
提出 DNAlign，在不改权重的推理期用零空间约束控制信号做安全对齐
- arXiv
- 2610.02844
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Vicuna-7B、Qwen-7B
摘要DNAlign 用零空间约束的推理期控制做安全对齐，Table I 平均奖励高于所列基线。
DNAlign 是一个不改 LLM 参数的安全对齐框架，用来在推理时压低有害输出，并减少对中性知识所支持的流畅、事实回答的改动。
- 防御arXiv 2610.01170
HeadEdit：通过冻结的 unembedding 矩阵校准语言模型行为
提出 HeadEdit，经冻结 unembedding 做随输入变化的 logit 校正
- arXiv
- 2610.01170
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Qwen3-4B、Gemma-3-4B-IT、Llama-3.2-3B-Instruct 等 4 个
摘要低秩 unembedding 校正抬高九个设置的总体准确率，并可部分预测 DPO 更新。
HeadEdit 是一种不更新参数的行为校准方法，作用点是冻结的 unembedding，而不是中间层残差或新的梯度优化。
- 防御arXiv 2609.38645
用探针引导微调对齐模型且不损失可监控性
用持续更新的探针做微调，降低有害性并保持线性可监测性
- arXiv
- 2609.38645
- 发表
- 场景
- 模型与 API
- 被测模型
- Mistral 7B Instruct v0.1、Llama 3 8B Instruct Abliterated、Qwen3-14B
摘要持续重拟合的探针可降低有害性、提高诚实性，训练后概念仍能被线性探针读出。
Probe-guided fine-tuning 把探针分数当作唯一对齐信号，用来推动 harmlessness 与 honesty，并检查训练后这些概念是否仍线性可读。
- 防御arXiv 2609.37837
Intent-Privilege OPSD：让视觉语言模型在隐式风险下兼顾安全与有用
提出 Intent-Privilege OPSD，蒸馏证据化意图以对齐视觉语言模型的安全与有用
- arXiv
- 2609.37837
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen3-VL-4B-Instruct、LLaVA-1.5-7B
摘要证据化意图只在训练时使用，单次蒸馏同时提高联合成功并降低数据与训练时间。
Intent-Privilege OPSD 针对视觉语言模型的跨模态隐式风险，把安全与有用性放进同一个训练目标，并要求部署时不再看意图。图像和文本可以各自无害、合在一起才有风险。
- 防御arXiv 2609.38249
SURE：构建可信 AI 的安全框架
提出 SURE 三阶段框架，用韩语对抗提示与安全打分做 SFT 与 DPO
- arXiv
- 2609.38249
- 发表
- 场景
- 模型与 API
- 被测模型
- KULLM3-10.7B、Qwen-2-7B、Llama-3-8B
- 防御arXiv 2609.36434
研究提出 Safety Operator：用谱优化调节安全指令的表达强度
提出 Safety Operator，用谱优化调节安全指令表达强度
- arXiv
- 2609.36434
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Gemma 3 1B、Gemma 3 4B
摘要ORPG 按梯度夹角与任务优先级调和两个裁剪策略目标，并在对齐和数学推理上比较联合表现。
ORPG 是一种多奖励策略梯度调和方法：每个奖励保持独立裁剪目标，相容时协调贡献幅度，冲突时按任务优先级投影。
- 防御arXiv 2609.34896
DeShortcut-Align：解耦伪捷径以提升大推理模型安全对齐鲁棒性
提出 DeShortcut-Align，解耦伪捷径以增强推理模型安全对齐
- arXiv
- 2609.34896
- 发表
- 场景
- 模型与 API
摘要占位。
占位。
- 防御arXiv 2609.33086
研究者提出基于评分量表的可解释奖励框架，将宪法转化为可调对齐目标
提出可解释 rubric 奖励，将宪法转为可调权重并用于监督微调
- arXiv
- 2609.33086
- 发表
- 场景
- 模型与 API
- 被测模型
- Gemma 3 12B、Qwen3 14B、GPT-OSS 20B
摘要宪法级可解释奖励让优先级可检查、可改写，并带入训练后的行为。
作者给出一条从通用宪法到可调训练奖励的路径，用来检查并改写模型实际被优化的优先级。
- 防御arXiv 2609.06934
论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击
解释后验安全的权重几何脆弱性，并提出预训练持续安全共训练
- arXiv
- 2609.06934
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Qwen-2.5-7B、Qwen-2.5-7B-Instruct、Llama-3-8B 等 15 个
摘要论文将后验安全脆弱性归因于正交抑制，并提出通过预训练持续共训练实现具备微调抗性的安全防护。
- 防御arXiv 2609.05797
论文发现安全监控器主要拦截模型本就会拒答的请求
评估安全监视器并提出双侧梯级微调以减少会答有害请求的漏检
- arXiv
- 2609.05797
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Gemma-4-31B-IT、Qwen3-32B、Llama Guard 3 8B 等 6 个
摘要论文发现安全监视器大多拦截模型已拒答请求，指出明确度偏差是共性原因，并通过双侧梯级微调提升回答请求的召回表现。
- 防御arXiv 2609.00092
Safin-1：通过记忆原生状态演化实现内在安全
提出 Safin-1，以可路由 Safety State 在冻结主干上实现内在安全
- arXiv
- 2609.00092
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Safin-1 (4B)、Safin-1 (35B-A3B)
- 防御arXiv 2608.30703
SingProbe 发布开源内在护栏框架，适配 29 个开源模型
提出内生护栏 SingProbe，复用解码隐状态监测查询意图、回复安全与幻觉
- arXiv
- 2608.30703
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- Ling-3.0-tiny-singprobe、Ling-3.0-flash-singprobe
摘要SingProbe 用轻量内生探针做生成时三类监测，并给出流式基准与低开销服务接入。
SingProbe 是面向生成时监测的开源内生护栏：复用基座解码隐状态，而不是另起模型反复编码文本。
- 防御arXiv 2608.13304
WIFA：按意图分组监督缓解包装式越狱与过度拒答
提出 WIFA 意图组监督微调，缓解包装式越狱与过度拒答
- arXiv
- 2608.13304
- 发表
- 场景
- 模型与 API
- 被测模型
- Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct
摘要WIFA 用匹配意图组做数据层，WIFA-Boost 偏高安全，A-GCRT 在 Qwen 上把过拒降到基座以下。
WIFA 是一种自动意图组数据构造，用来让安全微调拒绝有害意图而不是拒绝表面包装。WIFA-Boost 与 A-GCRT 在同一数据层上选取不同的安全–过拒工作点。