防御arXiv:2610.09600 · 10月7日
SafeEvo：从拒答回路视角解释大模型安全对齐机制与演化
提出安全电路对齐，把对齐更新限制在预训练拒绝电路内
模型与 API测试Llama-3-8B、Qwen-2.5-7B、Mistral-7B-v0.1 等 4 个训练与数据层
- 模型加固
- 拒答失当
摘要SafeEvo 识别出基座模型中存在的弱安全电路及其演化动态，据此提出的 SCA 算法实现了安全对齐、能力保留与低过度拒绝的平衡。
完整解读
可解释性arXiv:2610.08559 · 10月6日
研究：LLM 潜在空间去偏方向主要编码置信度而非公平性
分析激活引导去偏方向，发现其编码的是置信度而非公平性
模型与 API测试Llama-3.1-8B、Llama-3.1-8B-Instruct、Falcon3-7B-Base 等 8 个模型层
- 推理时干预
- 偏见与歧视
摘要论文揭示激活引导去偏见方向主要编码模型置信度而非公平性，偏见评分下降实为诱发弃答或使概率均分的假象。
完整解读
可解释性arXiv:2610.05541 · 10月5日
研究者提出 CAP 指标与 CSFD 算法，发现越狱通过压制安全特征绕过拒答
提出 CAP 与 CSFD，发现越狱通过压制安全特征绕过拒答
模型与 API测试Gemma-2-2B、Qwen3-8B、Gemma-3-4B-IT 等 5 个模型层
- 越狱
- 拒答失当
摘要论文指出越狱通过抑制安全特征运作，提出 CAP 与 CSFD 补充了针对激活特征的解释性方法。
完整解读
可解释性arXiv:2610.04125 · 10月3日
研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制
揭示风险自述与实际行为由近正交表征分别控制
模型与 API测试Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct、OLMo-3-7B-Instruct 等 4 个模型层
- 欺骗与谋划
摘要论文证明大模型自述与行为脱节根植于表征近正交性，自述无法作为行为审计依据。
这篇论文从内部表征与因果干预视角，系统研究了大语言模型在风险承担（Risk-Taking）场景下自我报告与实际决策脱节的根本机制。
完整解读
可解释性arXiv:2609.14759 · 9月14日
研究：拒答只读取模型道德表征中的伤害切片
用几何投影与因果交换干预，分析拒绝机制读取的道德表征
模型与 API测试OLMo-3-7B-Instruct、OLMo-3-7B base、Qwen2.5-7B-Instruct 等 9 个模型层
- 拒答失当
摘要作者指出拒绝机制多仅读取表层伤害感知，在控制瓶颈处运作，阐明了对齐易被移除的机理并提出跨模型双轴分类。
本文是一项针对大语言模型拒绝机制与对齐浅层性的机械解释性研究。
完整解读
可解释性arXiv:2607.12166 · 7月14日
研究：SAE 相关性恢复的特征最高 77% 因果无效
用消融与转向干预审计稀疏自编码器特征的因果有效性
模型与 API测试toy model (32->8, s=0.95, decayed)、toy model (nhidden=20)、GPT-2-small (gpt2-small-res-jb/blocks.8.hook_resid_pre)模型层
摘要论文揭示 SAE 特征存在几何匹配与因果有效性脱节现象，提出读写解离机制与实践准则。
完整解读
可解释性arXiv:2608.21766 · 8月22日
研究：六个开源权重模型的评测感知可线性解码，但与口头表达弱相关
用探针与激活导向分析语言模型的评测意识表征及言语化
模型与 API测试Qwen3-8B、Qwen3-32B、Olmo3-7B 等 14 个模型层
- 欺骗与谋划
摘要论文系统证明大模型普遍具备评估与部署的隐层表征，但与言语化弱耦合，激活干预可因果诱导言语化且 SFT 阶段起关键稳定作用。
完整解读
可解释性arXiv:2609.14754 · 9月14日
研究者总结因果可解释性中的六类测量失效与校准协议
提出因果可解释性仪器校准规程，识别决策位点测量失效
模型与 API测试OLMo-3-7B-Instruct、Qwen2.5-7B、Llama-3.1-8B 等 6 个模型层
摘要论文系统梳理并实证揭示了大模型可解释性测量的六种伪影陷阱，提出了四项严格的校准与验证规程。
完整解读
可解释性arXiv:2607.17117 · 7月19日
Persistent SAE：为语言模型特征学习特定时间尺度
提出 Persistent SAE，为语言模型特征学习特定时间尺度
模型与 API模型层
摘要占位。
占位。
完整解读
可解释性arXiv:2607.24645 · 7月28日
研究提出 FEGA 框架分析 SAE 特征干预的 logit 变化几何
提出 FEGA 框架，分析 SAE 特征消融后的 logit 效应几何
模型与 API测试Gemma-2-2B、ReLU SAE、TopK SAE 等 4 个模型层
摘要FEGA 说明可解释且有因果作用的 SAE 特征，仍常常缺少稳定的单一转向方向。
Feature-Effect Geometry Analysis（FEGA） 把 SAE 特征的下游干预效应当成 logit 空间中的云来分类，用来区分可复用方向、低维结构和弥散效应。
完整解读
可解释性arXiv:2609.10060 · 9月9日
研究者提出基于参考的隐藏状态相对表示偏见检测方法
用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变
模型与 API测试Llama 3.1-8B-Instruct、Mistral-7B-Instruct-v0.3、Gemma 3-4B-IT模型层
- 偏见与歧视
摘要相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。
Reference-Based Bias Detection用锚句相对表示比较微调前后的隐状态，定义表征偏见偏移∆B，用来审计相关模型变体，而不为每种危害另建输出基准。
完整解读
可解释性arXiv:2610.02098 · 10月2日
研究揭示机制可解释性中的目标层恢复缺口
比较等规模电路的忠实度与行为准则，揭示目标层恢复缺口
模型与 API测试GPT-2 small、four-layer attention-only width-512 code model、InterpBench compiled transformers模型层
摘要同等规模下 faithfulness 会错排行为更好的电路。
作者研究电路发现的评测目标：干预定义的 faithfulness 可能偏好一个规模相同、但在固定行为测试上更差地复现完整模型的电路，即 objective-level recovery gap。
完整解读
可解释性arXiv:2610.01821 · 10月2日
研究者提出非线性概念流形发现与对齐方法，用于分析大语言模型内部表示
提出残差流上的非线性概念发现与对齐方法，比较模型内部概念结构
模型与 API测试GPT-2、Llama-3.1-8B-Instruct、Qwen3-4B 等 9 个模型层
摘要NLMCD-NLP 用 CBA 比较非线性概念，层块、语言共享和微调漂移都随模型与阶段而变。
NLMCD-NLP 把概念建成低维非线性流形，用 CBA 比较 LLM 在层、规模、语言和训练阶段上的表示，而不把相似度压成一个全局线性统计量。
完整解读
可解释性arXiv:2610.00895 · 10月2日
DiDAE：面向视觉基础模型的快速解耦反事实解释方法
提出 DiDAE，对冻结视觉基础模型做无梯度解耦反事实解释
模型与 API测试ResNet-18、CLIP ViT-L/14、PLIP 等 8 个模型层
- 视觉
摘要DiDAE 用无梯度字典编辑生成解耦反事实，并用于修正与排序。
DiDAE 用冻结视觉基础模型和一个解耦字典，生成按分量编辑的视觉反事实，再拿去修正依赖伪相关的分类器，或给字典原子按“是否真能翻转该分类器”排序。
完整解读
可解释性arXiv:2609.37616 · 9月29日
语言模型中的权威偏差：来源顺从与用户认同并非同一行为
因果解耦来源依从与用户迎合的内部机制
模型与 API测试Qwen3.5-27B、GPT-OSS-20B、OLMo-3.1-32B 等 8 个模型层
- 失准与价值偏离
摘要论文发现模型对验证源的依从强于用户迎合，通过因果干预区分了二者机制，并检验了权威方向移除的缓解效果。
完整解读
可解释性arXiv:2609.38205 · 9月23日
系统提示词幻觉：指令前导如何改变语言模型内部计算
测量系统提示词对模型逐层计算的重构程度
模型与 API测试Qwen-2.5-1.5B、SmolLM2-1.7B、Gemma-1-2B 等 15 个模型层
摘要系统提示词引发层选择性表征改变，安全指令的浅层化特征从机理上解释了其对对抗越狱的脆弱性。
完整解读

已经到底了