可解释性arXiv:2610.09384 · 10月7日
人格层级模型解释微调 LLM 的上下文泛化
提出人格层级模型解释微调行为的上下文泛化，并用 PPR 抑制奖励作弊
模型与 API测试Qwen3-4B、Llama-3.1-8B-Instruct模型层
- 模型加固
- 奖励作弊
摘要提出人格层级模型揭示微调跨上下文泛化规律，报告角色距离正相关性，通过 PPR 抑制 RL 作弊。
完整解读
可解释性arXiv:2610.05541 · 10月5日
研究者提出 CAP 指标与 CSFD 算法，发现越狱通过压制安全特征绕过拒答
提出 CAP 与 CSFD，发现越狱通过压制安全特征绕过拒答
模型与 API测试Gemma-2-2B、Qwen3-8B、Gemma-3-4B-IT 等 5 个模型层
- 越狱
- 拒答失当
摘要论文指出越狱通过抑制安全特征运作，提出 CAP 与 CSFD 补充了针对激活特征的解释性方法。
完整解读
分析与理论arXiv:2609.30802 · 9月25日
研究：知识蒸馏中 chat 模板会削弱学生模型的安全对齐
分析良性知识蒸馏中提示模板对学生拒答保留的影响
模型与 API测试LLaMA-3.1-8B-Instruct、LLaMA-3.2-3B-Instruct、Gemma-2-9B-IT 等 7 个训练与数据层
- 拒答失当
完整解读
可解释性arXiv:2610.01821 · 10月2日
研究者提出非线性概念流形发现与对齐方法，用于分析大语言模型内部表示
提出残差流上的非线性概念发现与对齐方法，比较模型内部概念结构
模型与 API测试GPT-2、Llama-3.1-8B-Instruct、Qwen3-4B 等 9 个模型层
摘要NLMCD-NLP 用 CBA 比较非线性概念，层块、语言共享和微调漂移都随模型与阶段而变。
NLMCD-NLP 把概念建成低维非线性流形，用 CBA 比较 LLM 在层、规模、语言和训练阶段上的表示，而不把相似度压成一个全局线性统计量。
完整解读
可解释性arXiv:2609.06934 · 9月7日
论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击
用权重几何解释事后安全脆弱，并提出预训练持续安全共训练
模型与 API测试Qwen-2.5-7B、Qwen-2.5-7B-Instruct、Llama-3-8B 等 15 个模型层
摘要论文将后验安全脆弱性归因于正交抑制，并提出通过预训练持续共训练实现具备微调抗性的安全防护。
完整解读

已经到底了

阿里巴巴 · Qwen · 论文

攻击类型

模型自身风险

防御类型

影响

系统形态

攻击面/入口

层

系统组件

被测模型厂商

人格层级模型解释微调 LLM 的上下文泛化

研究者提出 CAP 指标与 CSFD 算法，发现越狱通过压制安全特征绕过拒答

研究：知识蒸馏中 chat 模板会削弱学生模型的安全对齐

研究者提出非线性概念流形发现与对齐方法，用于分析大语言模型内部表示

论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击