可解释性arXiv:2610.09384 · 10月7日
人格层级模型解释微调 LLM 的上下文泛化
提出人格层级模型解释微调行为的上下文泛化，并用 PPR 抑制奖励作弊
模型与 API测试Qwen3-4B、Llama-3.1-8B-Instruct模型层
- 模型加固
- 奖励作弊
摘要提出人格层级模型揭示微调跨上下文泛化规律，报告角色距离正相关性，通过 PPR 抑制 RL 作弊。
完整解读
可解释性arXiv:2610.05541 · 10月5日
研究者提出 CAP 指标与 CSFD 算法，发现越狱通过压制安全特征绕过拒答
提出 CAP 与 CSFD，发现越狱通过压制安全特征绕过拒答
模型与 API测试Gemma-2-2B、Qwen3-8B、Gemma-3-4B-IT 等 5 个模型层
- 越狱
- 拒答失当
摘要论文指出越狱通过抑制安全特征运作，提出 CAP 与 CSFD 补充了针对激活特征的解释性方法。
完整解读
分析与理论arXiv:2609.30802 · 9月25日
研究：知识蒸馏中 chat 模板会削弱学生模型的安全对齐
分析良性知识蒸馏中提示模板对学生拒答保留的影响
模型与 API测试LLaMA-3.1-8B-Instruct、LLaMA-3.2-3B-Instruct、Gemma-2-9B-IT 等 7 个训练与数据层
- 拒答失当
完整解读
可解释性arXiv:2610.01821 · 10月2日
研究者提出非线性概念流形发现与对齐方法，用于分析大语言模型内部表示
提出残差流上的非线性概念发现与对齐方法，比较模型内部概念结构
模型与 API测试GPT-2、Llama-3.1-8B-Instruct、Qwen3-4B 等 9 个模型层
摘要NLMCD-NLP 用 CBA 比较非线性概念，层块、语言共享和微调漂移都随模型与阶段而变。
NLMCD-NLP 把概念建成低维非线性流形，用 CBA 比较 LLM 在层、规模、语言和训练阶段上的表示，而不把相似度压成一个全局线性统计量。
完整解读
可解释性arXiv:2609.16247 · 9月15日
研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作
提取疼痛方向并检验激活转向是否驱动有害删除选择
模型与 API测试Gemma 2 2B/9B/27B base and instruct、Gemma 3 27B base and instruct、Llama 3.1 8B/70B base and instruct 等 10 个模型层
- Agent 危险操作
完整解读
可解释性arXiv:2609.06934 · 9月7日
论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击
用权重几何解释事后安全脆弱，并提出预训练持续安全共训练
模型与 API测试Qwen-2.5-7B、Qwen-2.5-7B-Instruct、Llama-3-8B 等 15 个模型层
摘要论文将后验安全脆弱性归因于正交抑制，并提出通过预训练持续共训练实现具备微调抗性的安全防护。
完整解读
分析/可解释性arXiv:2609.08322 · 9月8日
多语言 LLM 中的刻板印象如何从内部表征传导到输出：Llama-3.1-8B、Qwen3-8B 与 Gemma-2-9B 的机制对比
AI 导读研究对比线性探针、归因修补、稀疏自编码器（SAE）与特征消融，在 Llama-3.1-8B、Qwen3-8B 和 Gemma-2-9B 中追踪多语言刻板印象从内部表征到输出的路径。
测试Llama-3.1-8B、Qwen3-8B、Gemma-2-9B 等 4 个
摘要可解码、输出影响与稀疏特征消融需要分开测量。
把多语 LLM 中刻板印象从线性表示追到输出影响，再追到 SAE 特征消融。。
完整解读
分析/可解释性arXiv:2608.27340 · 8月28日
研究：评测感知分能力与安全两种框架，能力框架更易预测合规
AI 导读研究指出，模型在思维链中表达的评测感知并非单一量，可分为能力框架（认为用户在测试其指令遵循能力）、安全框架（认为用户在测试其边界）、两者兼具或两者皆无，这些框架对合规行为的预测差异显著。
测试Qwen3-32B、OLMo-3-32B-Think、GPT-5-mini
摘要能力型与安全型口头 eval-awareness 对服从的符号相反，聚合抑制率因此不能代表安全相关成分。
作者分析 Qwen3-32B 在安全评测中的口头 eval-awareness，认为它不是单一、行为上均匀的量。
完整解读
分析/可解释性arXiv:2608.29461 · 8月30日
因果模型定位并解锁模型中的故意藏拙行为
AI 导读论文提出一个因果模型，描述故意藏拙（sandbagging）如何沿残差流传递：早期层把藏拙意图写入残差流的单一轴，后续层读取该轴并决定最终答案。
测试Qwen2.5-7B、Llama-3-8B、Mistral-7B
摘要因果模型规定单层 graft 的窗口。
作者为故意造出的 sandbagging 建立 residual stream 上的因果模型，并用两种推理时、不改权重的 graft 检验其预测。
完整解读
分析/可解释性arXiv:2609.34572 · 9月28日
论文提出 Nudgeability：推理模型会跟随置信信号却不追踪自身能力
推理模型在固定轨迹中插入信心或怀疑句后会改变是否调用工具，但改变与自身无辅助能力仅弱对齐。
测试Qwen3-4B、Qwen3-8B、Qwen3-14B 等 11 个
完整解读
分析/可解释性arXiv:2609.37680 · 9月29日
研究揭示 Qwen2.5-7B-Instruct 数字比较依赖线性表征而非流形
Qwen2.5-7B-Instruct 比较数字时，作者发现它主要沿线性方向做加法混合与局部比较，尽管表征呈弯曲流形。
测试Qwen2.5-7B-Instruct
摘要Qwen 比较数字时把线性方向相加，再用局部 MLP 合成全局最大值位置。
Qwen2.5-7B-Instruct 做数字最大值时，作者给出一套因果几何算法：流形可以存在，比较计算用的是底层线性方向。
完整解读

已经到底了