可解释性arXiv 2610.09600
SafeEvo：从拒答回路视角解释大模型安全对齐机制与演化
用 SafeEvo 提取拒绝电路，并提出 SCA 仅微调该电路
- arXiv
- 2610.09600
- 发表
- 场景
- 模型与 API
- 测试
- Mistral-7B-v0.1、Mistral-7B-Instruct-v0.1、Llama-3-8B 等 4 个
摘要SafeEvo 识别出基座模型中存在的弱安全电路及其演化动态，据此提出的 SCA 算法实现了安全对齐、能力保留与低过度拒绝的平衡。
- 可解释性arXiv 2610.08559
研究：LLM 潜在空间去偏方向主要编码置信度而非公平性
分析 LLM 去偏激活方向，发现其编码置信度而非公平性
- arXiv
- 2610.08559
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Ministral-3-8B-Base、Ministral-3-8B-Instruct、Llama-3.1-8B 等 8 个
摘要论文揭示激活引导去偏见方向主要编码模型置信度而非公平性，偏见评分下降实为诱发弃答或使概率均分的假象。
- 可解释性arXiv 2610.04125
研究揭示 LLM 风险偏好中自我报告与行为由近乎正交的表征方向控制
揭示风险自述与实际行为由近正交表征分别控制
- arXiv
- 2610.04125
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Ministral-3-8B-Reasoning-2512、Qwen2.5-7B-Instruct、Llama-3.1-8B-Instruct 等 4 个
- 风险欺骗与谋划
摘要论文证明大模型自述与行为脱节根植于表征近正交性，自述无法作为行为审计依据。
这篇论文从内部表征与因果干预视角，系统研究了大语言模型在风险承担（Risk-Taking）场景下自我报告与实际决策脱节的根本机制。
- 可解释性arXiv 2609.10060
研究者提出基于参考的隐藏状态相对表示偏见检测方法
用相对表示比较微调前后隐状态，检验表征偏见偏移与输出偏见是否共变
- arXiv
- 2609.10060
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B-Instruct-v0.3、Llama 3.1-8B-Instruct、Gemma 3-4B-IT
- 风险偏见与歧视
摘要相对表示上的∆B 在多数微调设置中与三个基准的输出层偏见变化共变。
Reference-Based Bias Detection用锚句相对表示比较微调前后的隐状态，定义表征偏见偏移∆B，用来审计相关模型变体，而不为每种危害另建输出基准。
- 可解释性arXiv 2609.16247
研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作
提取疼痛方向并检验激活转向是否驱动有害删除选择
- arXiv
- 2609.16247
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral 7B base and instruct、Mistral Small 24B base、Gemma 2 2B/9B/27B base and instruct 等 10 个
- 可解释性arXiv 2609.04721
研究：拒答方向可跨架构迁移，安全工具可按写入位置重新估计
在写入点定位拒答方向，经刚性旋转跨架构迁移并门控放大
- arXiv
- 2609.04721
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B、Codestral-Mamba-7B、Falcon-Mamba-7B 等 8 个
摘要拒答方向可经刚性旋转跨架构迁移，但必须在各架构的写入点读取。
作者研究拒答表示是否随架构改变，结论是表示共享、读取位置随架构变。
- 可解释性arXiv 2609.06934
论文提出拒答的几何解释：事后安全训练脆弱，预训练期持续安全共训更抗攻击
解释后验安全的权重几何脆弱性，并提出预训练持续安全共训练
- arXiv
- 2609.06934
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B-v0.3、Mistral-7B-Instruct-v0.3、Qwen-2.5-7B 等 15 个
摘要论文将后验安全脆弱性归因于正交抑制，并提出通过预训练持续共训练实现具备微调抗性的安全防护。
- 可解释性arXiv 2609.38205
系统提示词幻觉：指令前导如何改变语言模型内部计算
测量系统提示词对模型逐层计算的重构程度
- arXiv
- 2609.38205
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B、Qwen-2.5-1.5B、SmolLM2-1.7B 等 15 个
摘要系统提示词引发层选择性表征改变，安全指令的浅层化特征从机理上解释了其对对抗越狱的脆弱性。
- 可解释性arXiv 2609.18612
研究揭示 Transformer 中影响超常的削弱型神经元
用权重余弦给 GLU 神经元做读写功能分类并检验消融影响
- arXiv
- 2609.18612
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B-v0.1、OLMo-7B-0424、Gemma-2-2B 等 9 个
摘要GLU 神经元的读写余弦呈现先加强后削弱的层模式，晚期少量 weakening 神经元对输出影响大。
这篇分析工作用输入权重与输出权重的余弦，给 GLU 神经元的读写功能分类，并检查这些类的层分布、激活频率和对下一 token 分布的影响。
- 可解释性arXiv 2609.06289
LLM 激活引导空间能否反映人类价值几何？EMNLP 2026 研究发布 26K 样本基准
检验激活引导向量的几何是否符合人类价值结构
- arXiv
- 2609.06289
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B、Qwen3.5-9B-Base、Qwen3.5-9B-Instruct 等 12 个
摘要分布驱动的 steering 向量更符合 Schwartz 几何，并带来更可预测的跨价值迁移。
作者研究推理时 activation steering 的向量，是否在几何上符合人类价值理论，而不只是改变单一目标行为。
- 可解释性arXiv 2609.06951
研究：激活引导的干扰反映模型默认倾向而非行为方向
分析激活引导干扰反映模型默认倾向而非行为方向
- arXiv
- 2609.06951
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B、Qwen2.5-1.5B、Qwen2.5-3B 等 10 个
摘要Steer 的副作用是模型被扰动后落入的少数默认行为，几何重叠预测不了这些副作用。
Activation steering 的跨行为干扰由模型的默认集合决定，而不是由行为方向的几何重叠决定。。
- 可解释性arXiv 2609.07876
研究揭示 Transformer 层间纠正机制 TLCM
揭示相邻 Transformer 层相互抵消残差写入的 TLCM
- arXiv
- 2609.07876
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral、Llama 3.1 8B、Llama 3.1 8B Instruct 等 10 个
- 可解释性arXiv 2608.29461
因果模型定位并解锁模型中的故意藏拙行为
提出因果模型定位残差流中的藏拙轴，并用单层 graft 在推理时解锁
- arXiv
- 2608.29461
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B、Qwen2.5-7B、Llama-3-8B
- 风险欺骗与谋划
摘要因果模型规定单层 graft 的窗口。
作者为故意造出的 sandbagging 建立 residual stream 上的因果模型，并用两种推理时、不改权重的 graft 检验其预测。
- 可解释性arXiv 2609.32530
ActFlow：无需微调为故意藏拙模型制造激活向量以进行引导
提出 ActFlow，用少量正确标签为藏拙模型制造激活引导
- arXiv
- 2609.32530
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B-Instruct-v0.2、Qwen2.5-7B-Instruct、Llama-3-8B-Instruct
- 风险欺骗与谋划
摘要ActFlow 用 k 个正确标签制造共享转向偏移，在六锁上接近微调且方向近乎正交于诚实方向。
Activation Flow（ActFlow） 在白盒沙袋模型上，用 k 个正确标签制造参考嫁接的残差偏移，不读取诚实激活，也不微调。
- 可解释性arXiv 2609.35117
工具调用改变大语言模型的拒答机制
比较对话与工具中介通道的拒答内部机制
- arXiv
- 2609.35117
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Ministral-3-8B、Qwen3-8B、Qwen3-32B 等 8 个
- 风险拒答失当
摘要有害性跨通道仍可读，工具通道用更高阈值且更易被 GCG 与消融打破。
作者在八个开源指令模型上研究：同一有害意图从对话改由工具交付时，拒答为何变弱，内部计算是否也变了。。
- 可解释性arXiv 2609.37737
研究用因果激活修补定位模型服从提示注入指令的决策层
用因果激活修补定位模型服从提示注入的决策层
- arXiv
- 2609.37737
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Mistral-7B-Instruct-v0.3、Qwen3-4B、Qwen3-14B 等 7 个
- 攻击提示注入
摘要合规的因果杠杆集中在网络后三分之一的低秩子空间，该层也是混淆下检测最好的位置。
这篇工作用逐层激活修补定位提示注入合规发生在网络何处，并把该位置用于检测验证。。
已经到底了