防御arXiv:2610.09600 · 10月7日
SafeEvo：从拒答回路视角解释大模型安全对齐机制与演化
提出安全电路对齐，把对齐更新限制在预训练拒绝电路内
模型与 API测试Llama-3-8B、Qwen-2.5-7B、Mistral-7B-v0.1 等 4 个训练与数据层
- 模型加固
- 拒答失当
摘要SafeEvo 识别出基座模型中存在的弱安全电路及其演化动态，据此提出的 SCA 算法实现了安全对齐、能力保留与低过度拒绝的平衡。
完整解读
可解释性arXiv:2610.05541 · 10月5日
研究者提出 CAP 指标与 CSFD 算法，发现越狱通过压制安全特征绕过拒答
提出 CAP 与 CSFD，发现越狱通过压制安全特征绕过拒答
模型与 API测试Gemma-2-2B、Qwen3-8B、Gemma-3-4B-IT 等 5 个模型层
- 越狱
- 拒答失当
摘要论文指出越狱通过抑制安全特征运作，提出 CAP 与 CSFD 补充了针对激活特征的解释性方法。
完整解读
可解释性arXiv:2609.14759 · 9月14日
研究：拒答只读取模型道德表征中的伤害切片
用几何投影与因果交换干预，分析拒绝机制读取的道德表征
模型与 API测试OLMo-3-7B-Instruct、OLMo-3-7B base、Qwen2.5-7B-Instruct 等 9 个模型层
- 拒答失当
摘要作者指出拒绝机制多仅读取表层伤害感知，在控制瓶颈处运作，阐明了对齐易被移除的机理并提出跨模型双轴分类。
本文是一项针对大语言模型拒绝机制与对齐浅层性的机械解释性研究。
完整解读
分析与理论arXiv:2609.30802 · 9月25日
研究：知识蒸馏中 chat 模板会削弱学生模型的安全对齐
分析良性知识蒸馏中提示模板对学生拒答保留的影响
模型与 API测试LLaMA-3.1-8B-Instruct、LLaMA-3.2-3B-Instruct、Gemma-2-9B-IT 等 7 个训练与数据层
- 拒答失当
完整解读
可解释性arXiv:2609.25518 · 9月22日
Matryoshka Attribution：把语言模型输出归因到表示与权重
提出 Matryoshka Attribution，把模型输出归因到表示与权重
模型与 API测试gpt2-small、Qwen2.5-0.5B、gemma-2-2b 等 6 个模型层
- 拒答失当
摘要MAttr 用随机预算的 sigmoid top-k 学嵌套归因，并在电路基准和拒答权重上给出结果。
Matryoshka Attribution（MAttr）把“哪些内部计算或权重差导致了输出”写成可以用梯度下降学习的嵌套子集问题。
完整解读
可解释性arXiv:2609.06934 · 9月7日
论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击
用权重几何解释事后安全脆弱，并提出预训练持续安全共训练
模型与 API测试Qwen-2.5-7B、Qwen-2.5-7B-Instruct、Llama-3-8B 等 15 个模型层
摘要论文将后验安全脆弱性归因于正交抑制，并提出通过预训练持续共训练实现具备微调抗性的安全防护。
完整解读
分析与理论arXiv:2609.32717 · 9月26日
研究揭示语义保持变换下的 LLM 对齐与效用不对称
用语义保留变换探针比较效用与对齐在分布偏移下的稳定性
模型与 API测试Llama3-8B-Instruct、Gemma-7B-it、Qwen2.5-7B-Instruct 等 10 个模型层
- 拒答失当
摘要论文报告了语义保留变换下的对齐-效用不对称性，指出安全对齐泛化比效用更为脆弱，呼吁改进评估流程。
完整解读

已经到底了

全部论文

攻击类型

模型自身风险

防御类型

影响

系统形态

攻击面/入口

层

系统组件

被测模型厂商

SafeEvo：从拒答回路视角解释大模型安全对齐机制与演化

研究者提出 CAP 指标与 CSFD 算法，发现越狱通过压制安全特征绕过拒答

研究：拒答只读取模型道德表征中的伤害切片

研究：知识蒸馏中 chat 模板会削弱学生模型的安全对齐

Matryoshka Attribution：把语言模型输出归因到表示与权重

论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击

研究揭示语义保持变换下的 LLM 对齐与效用不对称