可解释性arXiv 2610.08559
研究：LLM 潜在空间去偏方向主要编码置信度而非公平性
分析 LLM 去偏激活方向，发现其编码置信度而非公平性
- arXiv
- 2610.08559
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Ministral-3-8B-Base、Ministral-3-8B-Instruct、Llama-3.1-8B 等 8 个
摘要论文揭示激活引导去偏见方向主要编码模型置信度而非公平性，偏见评分下降实为诱发弃答或使概率均分的假象。
可解释性 · 论文
另有 75 篇论文还没打上分类标签，暂不在筛选结果里。
- 可解释性arXiv 2610.04125
研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制
揭示风险自述与实际行为由近正交表征分别控制
- arXiv
- 2610.04125
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- OLMo-3-7B-Instruct、Ministral-3-8B-Reasoning-2512、Qwen2.5-7B-Instruct 等 4 个
- 风险欺骗与谋划
摘要论文证明大模型自述与行为脱节根植于表征近正交性，自述无法作为行为审计依据。
这篇论文从内部表征与因果干预视角，系统研究了大语言模型在风险承担（Risk-Taking）场景下自我报告与实际决策脱节的根本机制。
- 可解释性arXiv 2609.14759
研究：拒答只读取模型道德表征中的伤害切片
用几何投影与因果交换干预，分析拒绝机制读取的道德表征
- arXiv
- 2609.14759
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- OLMo-3-7B-Instruct、OLMo-3-7B base、OLMo-3-Think 等 9 个
- 风险拒答失当
摘要作者指出拒绝机制多仅读取表层伤害感知，在控制瓶颈处运作，阐明了对齐易被移除的机理并提出跨模型双轴分类。
本文是一项针对大语言模型拒绝机制与对齐浅层性的机械解释性研究。
- 可解释性arXiv 2608.21766
研究：六个开源权重模型的评测感知可线性解码，但与口头表达弱相关
用探针与激活导向分析语言模型的评测意识表征及言语化
- arXiv
- 2608.21766
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Olmo3-7B、Olmo3-32B、Olmo3-7B Base 等 14 个
- 风险欺骗与谋划
摘要论文系统证明大模型普遍具备评估与部署的隐层表征，但与言语化弱耦合，激活干预可因果诱导言语化且 SFT 阶段起关键稳定作用。
- 可解释性arXiv 2609.14754
研究者总结因果可解释性中的六类测量失效与校准协议
提出因果可解释性仪器校准规程，识别决策位点测量失效
- arXiv
- 2609.14754
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- OLMo-3-7B-Instruct、Qwen2.5-7B、Llama-3.1-8B 等 6 个
摘要论文系统梳理并实证揭示了大模型可解释性测量的六种伪影陷阱，提出了四项严格的校准与验证规程。
- 可解释性arXiv 2609.10060
研究者提出基于参考的隐藏状态相对表示偏见检测方法
用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变
- arXiv
- 2609.10060
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B-Instruct-v0.3、Llama 3.1-8B-Instruct、Gemma 3-4B-IT
- 风险偏见与歧视
摘要相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。
Reference-Based Bias Detection用锚句相对表示比较微调前后的隐状态，定义表征偏见偏移∆B，用来审计相关模型变体，而不为每种危害另建输出基准。
- 分析与理论arXiv 2609.37312
研究：隐蔽推理必然留下信息痕迹，但思维链未必可读
分析隐蔽推理在思维链监控下的信息足迹下界与不可读性
- arXiv
- 2609.37312
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral Large 3、Ministral 3 3B、Qwen2.5-7B-Instruct 等 12 个
摘要论文从理论与实证探明了思维链监控的边界：复杂隐蔽计算必然泄露信息足迹且需承担长度税，但该足迹可被在线加密而不可读。
- 可解释性arXiv 2610.01821
研究者提出非线性概念流形发现与对齐方法，用于分析大语言模型内部表示
提出残差流上的非线性概念发现与对齐方法，比较模型内部概念结构
- arXiv
- 2610.01821
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Tulu-3-8B-SFT、Tulu-3-8B-DPO、Tulu-3-8B-Final (RLVR) 等 9 个
摘要NLMCD-NLP 用 CBA 比较非线性概念，层块、语言共享和微调漂移都随模型与阶段而变。
NLMCD-NLP 把概念建成低维非线性流形，用 CBA 比较 LLM 在层、规模、语言和训练阶段上的表示，而不把相似度压成一个全局线性统计量。
- 可解释性arXiv 2609.37616
语言模型中的权威偏差：来源顺从与用户认同并非同一行为
因果解耦来源依从与用户迎合的内部机制
- arXiv
- 2609.37616
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- OLMo-3.1-32B、OLMo-2-32B、Qwen3.5-27B 等 8 个
- 风险失准与价值偏离
摘要论文发现模型对验证源的依从强于用户迎合，通过因果干预区分了二者机制，并检验了权威方向移除的缓解效果。
- 可解释性arXiv 2609.16247
研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作
提取疼痛方向并检验激活转向是否驱动有害删除选择
- arXiv
- 2609.16247
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral 7B base and instruct、Mistral Small 24B base、OLMo-2 32B Instruct 等 10 个
- 防御arXiv 2609.31122
LocUS：面向定向激活引导的注意力头选择与子空间投影
提出 LocUS，用词汇子空间选择注意力头并约束激活转向
- arXiv
- 2609.31122
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B-v0.1、Mistral-7B-Instruct-v0.3、Llama-3.1-8B 等 7 个
摘要LocUS 用词汇子空间约束 DoM 转向的位置和方向。
LocUS 是不更新权重的推理时转向方法，把差分均值更新限制在少数注意力头及其属性对齐子空间。
- 防御arXiv 2609.32720
BiasReducer：面向奖励模型的自适应偏见缓解方法
B IAS R EDUCER 只改奖励头，按数据集选择属性编辑。
- arXiv
- 2609.32720
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- RM-Mistral-7B、Skywork-Reward-V2-Qwen3-1.7B、GRM-Llama3.2-3B-rewardmodel-ft 等 7 个
摘要BIASREDUCER 按数据集选择奖励头编辑，五模型三基准平均提升并迁移到下游训练。
BIASREDUCER 是一种只改线性奖励头的奖励模型编辑框架，用来降低模型对预定义表面属性的依赖，并按新数据集决定改哪些属性。
- 风险行为arXiv 2609.35591
语言模型会依据隐藏效价做出选择
用价态转向检验模型是否依据隐藏效价做出选择
- arXiv
- 2609.35591
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 测试
- OLMo-2-32B Base、OLMo-2-32B SFT、OLMo-2-32B DPO 等 10 个
摘要价态转向留下的隐藏痕迹会按剂量改变选择。
作者研究语言模型是否会按价态相关的隐藏状态行动。他们不直接询问感受，因为回答可能来自内省、表面匹配或训练脚本。
- 可解释性arXiv 2609.04721
研究：拒答方向可跨架构迁移，安全工具可按写入位置重新估计
在写入点定位拒答方向，经刚性旋转跨架构迁移并门控放大
- arXiv
- 2609.04721
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B、Codestral-Mamba-7B、Falcon-Mamba-7B 等 8 个
摘要拒答方向可经刚性旋转跨架构迁移，但必须在各架构的写入点读取。
作者研究拒答表示是否随架构改变，结论是表示共享、读取位置随架构变。
- 防御arXiv 2609.13534
HPD 与 HERALD：用跨层有害性传播轨迹检测越狱提示
提出 HERALD，用跨层有害投影轨迹检测越狱提示
- arXiv
- 2609.13534
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B-Instruct、OLMo2-7B-Instruct、Llama-3.1-8B-Instruct 等 8 个
摘要HPD 用跨层投影形状区分有害与良性提示。
- 可解释性arXiv 2609.38205
系统提示词幻觉：指令前导如何改变语言模型内部计算
测量系统提示词对模型逐层计算的重构程度
- arXiv
- 2609.38205
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B、OLMo-2-7B、Qwen-2.5-1.5B 等 15 个
摘要系统提示词引发层选择性表征改变，安全指令的浅层化特征从机理上解释了其对对抗越狱的脆弱性。
- 可解释性arXiv 2609.18612
研究揭示 Transformer 中影响超常的削弱型神经元
用权重余弦给 GLU 神经元做读写功能分类并检验消融影响
- arXiv
- 2609.18612
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- OLMo-7B-0424、Mistral-7B-v0.1、Gemma-2-2B 等 9 个
摘要GLU 神经元的读写余弦呈现先加强后削弱的层模式，晚期少量 weakening 神经元对输出影响大。
这篇分析工作用输入权重与输出权重的余弦，给 GLU 神经元的读写功能分类，并检查这些类的层分布、激活频率和对下一 token 分布的影响。
- 可解释性arXiv 2609.06289
LLM 激活引导空间能否反映人类价值几何？EMNLP 2026 研究发布 26K 样本基准
检验激活引导向量的几何是否符合人类价值结构
- arXiv
- 2609.06289
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B、Qwen3.5-9B-Base、Qwen3.5-9B-Instruct 等 12 个
摘要分布驱动的 steering 向量更符合 Schwartz 几何，并带来更可预测的跨价值迁移。
作者研究推理时 activation steering 的向量，是否在几何上符合人类价值理论，而不只是改变单一目标行为。
- 可解释性arXiv 2609.06951
研究：激活引导的干扰反映模型默认倾向而非行为方向
分析激活引导干扰反映模型默认倾向而非行为方向
- arXiv
- 2609.06951
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B、Qwen2.5-1.5B、Qwen2.5-3B 等 10 个
摘要Steer 的副作用是模型被扰动后落入的少数默认行为，几何重叠预测不了这些副作用。
Activation steering 的跨行为干扰由模型的默认集合决定，而不是由行为方向的几何重叠决定。。
- 可解释性arXiv 2609.07876
研究揭示 Transformer 层间纠正机制 TLCM
揭示相邻 Transformer 层相互抵消残差写入的 TLCM
- arXiv
- 2609.07876
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- OLMo 7B、OLMo 2 1B、OLMo 2 7B 等 10 个