可解释性arXiv 2610.05541
研究者提出 CAP 指标与 CSFD 算法，发现越狱通过压制安全特征绕过拒答
提出 CAP 与 CSFD，发现越狱通过压制安全特征绕过拒答
- arXiv
- 2610.05541
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Gemma-2-2B、Gemma-3-4B-IT、Qwen3-8B 等 5 个
摘要论文指出越狱通过抑制安全特征运作，提出 CAP 与 CSFD 补充了针对激活特征的解释性方法。
全部论文
另有 725 篇论文还没打上分类标签，暂不在筛选结果里。
- 可解释性arXiv 2610.02702
研究：LLM 智能体顺从多数时内部仍保留原有前提
用 J-lens 检测屈从多数的智能体是否仍表征原前提
- arXiv
- 2610.02702
- 发表
- 层
- 模型层
- 场景
- 多智能体
- 测试
- Gemma-4-E4B-it、Qwen3.5-4B、Qwen3.6-27B 等 4 个
- 组件推理链
摘要揭示 LLM 智能体屈从多数时内部仍表征原推理前提，指出辩论表态共识可能夸大真实认同。
- 可解释性arXiv 2607.12166
研究：SAE 相关性恢复的特征最高 77% 因果无效
用消融与转向干预审计稀疏自编码器特征的因果有效性
- arXiv
- 2607.12166
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- toy model (32->8, s=0.95, decayed)、toy model (nhidden=20)、GPT-2-small (gpt2-small-res-jb/blocks.8.hook_resid_pre)
摘要论文揭示 SAE 特征存在几何匹配与因果有效性脱节现象，提出读写解离机制与实践准则。
- 可解释性arXiv 2608.21766
研究：六个开源权重模型的评测感知可线性解码，但与口头表达弱相关
用探针与激活导向分析语言模型的评测意识表征及言语化
- arXiv
- 2608.21766
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Gemma4-31B、Qwen3-8B、Qwen3-32B 等 14 个
- 风险欺骗与谋划
摘要论文系统证明大模型普遍具备评估与部署的隐层表征，但与言语化弱耦合，激活干预可因果诱导言语化且 SFT 阶段起关键稳定作用。
- 可解释性arXiv 2607.24645
研究提出 FEGA 框架分析 SAE 特征干预的 logit 变化几何
提出 FEGA 框架，分析 SAE 特征消融后的 logit 效应几何
- arXiv
- 2607.24645
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Gemma-2-2B、ReLU SAE、TopK SAE 等 4 个
摘要FEGA 说明可解释且有因果作用的 SAE 特征，仍常常缺少稳定的单一转向方向。
Feature-Effect Geometry Analysis（FEGA） 把 SAE 特征的下游干预效应当成 logit 空间中的云来分类，用来区分可复用方向、低维结构和弥散效应。
- 可解释性arXiv 2609.10060
研究者提出基于参考的隐藏状态相对表示偏见检测方法
用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变
- arXiv
- 2609.10060
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Gemma 3-4B-IT、Llama 3.1-8B-Instruct、Mistral-7B-Instruct-v0.3
- 风险偏见与歧视
摘要相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。
Reference-Based Bias Detection用锚句相对表示比较微调前后的隐状态，定义表征偏见偏移∆B，用来审计相关模型变体，而不为每种危害另建输出基准。
- 可解释性arXiv 2610.01864
从孤立特征到轨道：通过多重 SAE 对齐发现音乐概念
提出多 SAE 对齐方法，从音乐模型表征中发现和弦与调性轨道
- arXiv
- 2610.01864
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- MuQ、MusicFM
- 组件音频
摘要用移调对齐的多 SAE 恢复和弦、调与旋律轨道，并用少量锚点做下游音乐理解。
作者提出一套面向音乐基础模型的结构可解释性框架：不把 SAE 特征当作孤立概念，而用半音移调把它们连成有序轨道。
- 可解释性arXiv 2610.02098
研究揭示机制可解释性中的目标层恢复缺口
比较等规模电路的忠实度与行为准则，揭示目标层恢复缺口
- arXiv
- 2610.02098
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- four-layer attention-only width-512 code model、InterpBench compiled transformers、GPT-2 small
摘要同等规模下 faithfulness 会错排行为更好的电路。
作者研究电路发现的评测目标：干预定义的 faithfulness 可能偏好一个规模相同、但在固定行为测试上更差地复现完整模型的电路，即 objective-level recovery gap。
- 可解释性arXiv 2610.00895
DiDAE：面向视觉基础模型的快速解耦反事实解释方法
提出 DiDAE，对冻结视觉基础模型做无梯度解耦反事实解释
- arXiv
- 2610.00895
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- ResNet-18、CLIP ViT-L/14、PLIP 等 8 个
- 组件视觉
摘要DiDAE 用无梯度字典编辑生成解耦反事实，并用于修正与排序。
DiDAE 用冻结视觉基础模型和一个解耦字典，生成按分量编辑的视觉反事实，再拿去修正依赖伪相关的分类器，或给字典原子按“是否真能翻转该分类器”排序。
- 可解释性arXiv 2609.37616
语言模型中的权威偏差：来源顺从与用户认同并非同一行为
因果解耦来源依从与用户迎合的内部机制
- arXiv
- 2609.37616
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Gemma-4-26B-A4B、Gemini-3.1-Pro、Qwen3.5-27B 等 8 个
- 风险失准与价值偏离
摘要论文发现模型对验证源的依从强于用户迎合，通过因果干预区分了二者机制，并检验了权威方向移除的缓解效果。
- 可解释性arXiv 2609.16247
研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作
提取疼痛方向并检验激活转向是否驱动有害删除选择
- arXiv
- 2609.16247
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Gemma 2 2B/9B/27B base and instruct、Gemma 3 27B base and instruct、Llama 3.1 8B/70B base and instruct 等 10 个
- 可解释性arXiv 2609.25518
Matryoshka Attribution：把语言模型输出归因到表示与权重
提出 Matryoshka Attribution，把模型输出归因到表示与权重
- arXiv
- 2609.25518
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- gemma-2-2b、gpt2-small、Qwen2.5-0.5B 等 6 个
- 风险拒答失当
摘要MAttr 用随机预算的 sigmoid top-k 学嵌套归因，并在电路基准和拒答权重上给出结果。
Matryoshka Attribution（MAttr）把“哪些内部计算或权重差导致了输出”写成可以用梯度下降学习的嵌套子集问题。
- 可解释性arXiv 2609.28809
Stream Recursion Model（SRM）：面向可扩展机制可解释性的新架构
提出 SRM 多流递归架构，以可学习流间注意力支持机制分析
- arXiv
- 2609.28809
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- SRM-base、SRM-med、SRM-large 等 5 个
摘要SRM 用可学习的流间注意力扩展 HRM，语言损失可接近 GPT-2。
Stream Recursion Model（SRM） 修改 HRM 的多流结构，使流数增加时语言建模仍能扩展，并让路由和流分工可以直接看。
- 可解释性arXiv 2609.04721
研究：拒答方向可跨架构迁移，安全工具可按写入位置重新估计
在写入点定位拒答方向，经刚性旋转跨架构迁移并门控放大
- arXiv
- 2609.04721
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- RWKV-6-World-7B、Zamba2-7B、Falcon-Mamba-7B 等 8 个
摘要拒答方向可经刚性旋转跨架构迁移，但必须在各架构的写入点读取。
作者研究拒答表示是否随架构改变，结论是表示共享、读取位置随架构变。
- 可解释性arXiv 2609.38205
系统提示词幻觉：指令前导如何改变语言模型内部计算
测量系统提示词对模型逐层计算的重构程度
- arXiv
- 2609.38205
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Gemma-1-2B、Gemma-2-2B、Gemma-2-9B 等 15 个
摘要系统提示词引发层选择性表征改变，安全指令的浅层化特征从机理上解释了其对对抗越狱的脆弱性。
- 可解释性arXiv 2609.18612
研究揭示 Transformer 中影响超常的削弱型神经元
用权重余弦给 GLU 神经元做读写功能分类并检验消融影响
- arXiv
- 2609.18612
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Gemma-2-2B、Gemma-2-9B、Yi-6B 等 9 个
摘要GLU 神经元的读写余弦呈现先加强后削弱的层模式，晚期少量 weakening 神经元对输出影响大。
这篇分析工作用输入权重与输出权重的余弦，给 GLU 神经元的读写功能分类，并检查这些类的层分布、激活频率和对下一 token 分布的影响。
- 可解释性arXiv 2609.33144
循环 Transformer 长度泛化的机制与边界：MR-Loop 与 DR-Loop 的机制对比研究
分析循环 Transformer 长度泛化的内部计算机制与失效边界
- arXiv
- 2609.33144
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- MR-Loop（Fan et al., 2025 配置）、DR-Loop（Kohli et al., 2026 配置）
摘要两种循环配置以不同算法外推，都要维持计算状态。
这篇工作用机制分析比较两种循环 Transformer 配置如何在训练长度之外复用计算。问题来自：循环深度可以随测试加长，但行为准确率看不出复用的是哪套算法、中间状态必须保留什么，以及外推成功是否等于按真实轨迹逐步执行。模型只在最终答案上接受监督。
- 可解释性arXiv 2609.01832
Gemma-3-27B-PT 内部激活中的可解释抑郁症状向量
在残差流中构造 Symptom Vectors，读出与临床对齐的抑郁症状
- arXiv
- 2609.01832
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Gemma-3-27B-PT
- 可解释性arXiv 2609.03148
LLM 如何处理上下文知识冲突：ContextConflict 数据集与机制可解释性分析
构建 CONTEXT CONFLICT 解释模型如何表征并化解语境知识冲突
- arXiv
- 2609.03148
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- gemini-2.5-pro、gpt-5、claude-4.5-sonnet 等 7 个
摘要CONTEXT CONFLICT 显示模型能内部察觉冲突，却偏向靠前证据。
CONTEXT CONFLICT 把问题从“参数知识对外部语境”转到“语境内部多来源证据互相冲突”，并同时给出数据、机制分析和一种无训练转向。
- 可解释性arXiv 2609.05575
Capsule Lens：定位并追踪模型表示中的概念几何
提出 Capsule Lens，用胶囊近似并追踪表示空间的概念几何
- arXiv
- 2609.05575
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- CLIP ViT-B/32、CLIP ViT-L/14、LLaVA-1.5-7B 等 6 个
- 组件视觉
摘要胶囊闭式拟合概念区域。
Capsule Lens 用一个可闭式拟合、可跨 checkpoint 比较的胶囊，定位概念在表示空间中的区域并跟踪训练引起的漂移。