可解释性arXiv 2610.02702
研究：LLM 智能体顺从多数时内部仍保留原有前提
用 J-lens 检测屈从多数的智能体是否仍表征原前提
- arXiv
- 2610.02702
- 发表
- 层
- 模型层
- 场景
- 多智能体
- 测试
- Qwen3.5-4B、Qwen3.6-27B、Gemma-4-E4B-it 等 4 个
- 组件推理链
摘要揭示 LLM 智能体屈从多数时内部仍表征原推理前提，指出辩论表态共识可能夸大真实认同。
- 可解释性arXiv 2610.00895
DiDAE：面向视觉基础模型的快速解耦反事实解释方法
提出 DiDAE，对冻结视觉基础模型做无梯度解耦反事实解释
- arXiv
- 2610.00895
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- ResNet-18、CLIP ViT-L/14、PLIP 等 8 个
- 组件视觉
摘要DiDAE 用无梯度字典编辑生成解耦反事实，并用于修正与排序。
DiDAE 用冻结视觉基础模型和一个解耦字典，生成按分量编辑的视觉反事实，再拿去修正依赖伪相关的分类器，或给字典原子按“是否真能翻转该分类器”排序。
- 可解释性arXiv 2609.30993
FLIP：面向视觉语言模型的末层推理时探针
提出 FLIP 末层推理时探针，检验视觉语言模型干预效应的来源
- arXiv
- 2609.30993
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Qwen3-VL-4B-Instruct、Qwen3-VL-8B、Kimi-VL-A3B
- 组件视觉
摘要末层 flooring 扫描在四准则下通过，原始层和左右对照没有同一正向区间。
FLIP 是开源 VLM 上的推理时末层探针，用来检验干预效应是否结构化、与任务相连，而不是用来转向模型。。
- 可解释性arXiv 2609.35020
论文检验线性表示假设：视觉 SAE 的可解释性有多高
检验视觉 SAE 的可解释性，对照人类判断比较 AIS 与标准指标
- arXiv
- 2609.35020
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- DINOv2、ViT、SigLIP 等 9 个
- 组件视觉
摘要视觉 SAE 重构很好，但 AIS、MS 与字典指标互不对齐，单一代理不足以核验 LRH。
这篇工作把 NLP 的 AIS 改到视觉 SAE，用来检查 LRH 的结构代理是否等于人类可解释性。。
- 可解释性arXiv 2609.23587
大型推理模型的效率与安全困境：量化与剪枝如何影响越狱鲁棒性
分析量化、剪枝与 KV 缓存压缩对推理模型越狱鲁棒性的影响
- arXiv
- 2609.23587
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- QwQ-32B、DeepSeek-R1-Distill-Qwen-32B、DeepSeek-R1-Distill-Llama-8B 等 4 个
摘要效率压缩常使 LRM 越狱 HR 下降，作者将其归因于推理退化而非对齐增强。
作者分析量化、剪枝和 KV 缓存压缩如何同时改变 LRM 的显存、推理和越狱脆弱性。。
- 可解释性arXiv 2609.05575
Capsule Lens：定位并追踪模型表示中的概念几何
提出 Capsule Lens，用胶囊近似并追踪表示空间的概念几何
- arXiv
- 2609.05575
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- CLIP ViT-B/32、CLIP ViT-L/14、Qwen2-VL-2B 等 6 个
- 组件视觉
摘要胶囊闭式拟合概念区域。
Capsule Lens 用一个可闭式拟合、可跨 checkpoint 比较的胶囊，定位概念在表示空间中的区域并跟踪训练引起的漂移。
- 可解释性arXiv 2609.06020
动物重识别模型学到了什么？DINOv3 中线性生物概念及其来源
检验个体身份训练的视觉表示是否线性编码生物概念
- arXiv
- 2609.06020
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- DINOv3-Base ViT（预训练）、DINOv3-Base ViT（gorilla Re-ID fine-tuned，triplet-margin loss）
- 组件视觉
摘要metric learning 的大猩猩 Re-ID 表示沿 sex、age 形成可转向的线性轴，微调只重排其位置。
这篇工作检查只做个体匹配的动物 Re-ID 表示里，有没有可审计的生物学结构。。
- 可解释性arXiv 2609.06968
通过稀疏自编码器特征追踪查询扩展效果
用 SAE 追踪稠密检索查询扩展的潜变量并用激活转向验证
- arXiv
- 2609.06968
- 发表
- 层
- 模型层
- 场景
- LLM 应用
- 测试
- Qwen3-Embedding-0.6B（Qwen-Embed）、SimLM
- 组件嵌入
摘要SAE 追踪稠密检索 QE 的潜变量，转向在四基准上比文本扩展更稳。
作者用稀疏自编码器分析稠密检索里的查询扩展：现成检索器不微调时，拼接扩展文本往往增益有限甚至变差，而最终指标和嵌入整体偏移不足以说明内部发生了什么。
- 可解释性arXiv 2609.08173
基于 SAE 引导的关键路径识别（KPI）解决知识冲突
提出 KPI，用入度定位跨层关键路径并做 SAE 转向以解决知识冲突
- arXiv
- 2609.08173
- 发表
- 层
- 模型层
- 场景
- LLM 应用
- 测试
- Llama-3-8B、Llama-3.1-8B、Gemma-2-9B 等 4 个
摘要KPI 以入度关键路径替代大批 SAE 特征转向，在冲突 RAG 上提高忠实并减轻副作用。
KPI 针对知识冲突 RAG 中的 SAE 转向：相关性批量改特征会带入冗余，少量因果上关键的特征即可完成转向。
- 可解释性arXiv 2609.09575
MonoTM：用可解释单义特征做主题建模，超越关键词表示
提出 MonoTM，用 SAE 单义特征估计文档主题混合并生成主题描述
- arXiv
- 2609.09575
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- llama-embed-nemotron-8b、Gemma-3-27B-IT、Gemma-3-12B-IT
- 组件嵌入
摘要MonoTM 分开估计混合与解释主题，三套基准上二者偏好的 SAE 配置不同。
MonoTM 是建在文档嵌入 SAE 上的可解释主题模型：混合估计用全部 SAE 特征，主题描述只用另一套配置里通过验证的语义特征。
- 可解释性arXiv 2609.17152
ResLRP：残差抵消如何导致 Vision Transformer 归因不稳定
提出 ResLRP，抑制视觉 Transformer 残差抵消引起的归因不稳定
- arXiv
- 2609.17152
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- ViT-B/16、ViT-L/14、ViT-H/14 等 11 个
- 组件视觉
摘要ResLRP 用残差 γ 规则限制 ViT 相关性爆炸，VLM 上忠实性与定位提升最大。
Berend 等人针对 ViT 上 LRP 热图嘈杂、不忠实的问题，把原因放在残差加法而不是注意力规则：前向抵消留下很小的 zout，标准 LRP 用它作分母，放大成不稳定的正负相关性。
- 可解释性arXiv 2609.23065
从概念对齐到因果接地：思维链忠实性的干预检验
用共享 SAE 检验 CoT 与直接预测的概念对齐和因果接地
- arXiv
- 2609.23065
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Llama-3.1-8B、Gemma-2-2B、Gemma-2-9B 等 5 个
- 组件推理链
摘要共享 SAE 上的概念重叠只标出候选概念，Δp 才度量它们是否因果支撑答案，且该效应随层和架构变化。
这篇工作把 CoT 忠实性从“说得像不像、输入归因像不像”改写成内部概念是否接地：CoT 有没有用到直接预测也在用的 SAE 概念，这些概念消掉以后答案概率会不会掉。
- 可解释性arXiv 2608.30480
VisER：面向 LVLM 物体幻觉检测的视觉证据与视觉依赖双面指标
提出 VisER，用内部视觉证据检测 LVLM 物体幻觉
- arXiv
- 2608.30480
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- LLaVA-1.5-7B、LLaVA-NeXT-7B、InstructBLIP 等 8 个
摘要VisER 用证据门与图像–前缀比给物体提及打落地分。
VisER 是面向 LVLM 开放式图像描述的免训练物体级幻觉检测分数，用来处理内部支持的来源混淆。
- 可解释性arXiv 2609.24243
TAME：用 SAE 抑制激活缓解 VLM 思维链混淆
提出 TAME，在强化学习中抑制模板激活以缓解思维链混淆
- arXiv
- 2609.24243
- 发表
- 场景
- 模型与 API
- 测试
- Qwen3-VL-8B、Gemma-3-12B-it、GPT-4o 等 7 个
已经到底了