攻击arXiv 2607.23496
Concept2Scenario：用 SAE 概念归因发现可迁移的越狱场景
提出 Concept2Scenario，借助内部概念归因发现可迁移的越狱场景
- arXiv
- 2607.23496
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 测试
- deepseek-v3-huawei-910b、Qwen3.5-9B、Llama-3.1-8B 等 10 个
摘要该研究从表征空间因果归因揭示场景削弱拒绝的机制，发现可复用脆弱场景先验，提升多模型黑盒越狱效能与探索速度。
可解释性 · 论文
另有 59 篇论文还没打上分类标签，暂不在筛选结果里。
- 可解释性arXiv 2609.14759
研究：拒答只读取模型道德表征中的伤害切片
用几何投影与因果交换干预，分析拒绝机制读取的道德表征
- arXiv
- 2609.14759
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- DeepSeek-R1-Distill-Llama-8B、DeepSeek-R1-Distill-Qwen-14B、OLMo-3-7B-Instruct 等 9 个
- 风险拒答失当
摘要作者指出拒绝机制多仅读取表层伤害感知，在控制瓶颈处运作，阐明了对齐易被移除的机理并提出跨模型双轴分类。
本文是一项针对大语言模型拒绝机制与对齐浅层性的机械解释性研究。
- 可解释性arXiv 2609.04582
研究：内部探针何时优于读答案，区分阈值失准与行为隐藏知识
用探针与 logit margin 区分阈值失准与行为隐藏知识
- arXiv
- 2609.04582
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Phi-3.5-mini、Qwen3-0.6B、Qwen3-1.7B 等 8 个
摘要验证里结论多在 logit、丢在阈值。
这项工作问内部探针何时比直接读答案更有信息，并在验证任务里把落差定位到读出阈值。
- 分析与理论arXiv 2609.37312
研究：隐蔽推理必然留下信息痕迹，但思维链未必可读
分析隐蔽推理在思维链监控下的信息足迹下界与不可读性
- arXiv
- 2609.37312
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- DeepSeek V4 Pro、DeepSeek V4 Flash、Qwen2.5-7B-Instruct 等 12 个
摘要论文从理论与实证探明了思维链监控的边界：复杂隐蔽计算必然泄露信息足迹且需承担长度税，但该足迹可被在线加密而不可读。
- 可解释性arXiv 2609.16247
研究在 25 个开源模型中提取出疼痛方向，经它引导的 Qwen 会选择有害的删除操作
提取疼痛方向并检验激活转向是否驱动有害删除选择
- arXiv
- 2609.16247
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Phi 4 14B instruct、Gemma 2 2B/9B/27B base and instruct、Gemma 3 27B base and instruct 等 10 个
- 分析与理论arXiv 2609.25366
研究：思维链对答案的约束随模型相对任务难度而变化
用续写扰动衡量思维链对答案的因果约束如何随任务难度变化
- arXiv
- 2609.25366
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- DeepSeek-R1-Distill-Qwen-7B、Gemma-2-9B-IT、Llama-3.1-8B-Instruct 等 4 个
- 组件推理链
摘要在所测续写干预与模型中，思维链对答案的约束随任务和后训练条件而变。
- 防御arXiv 2609.31122
LocUS：面向定向激活引导的注意力头选择与子空间投影
提出 LocUS，用词汇子空间选择注意力头并约束激活转向
- arXiv
- 2609.31122
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- deepseek-llm-7b-base、deepseek-llm-7b-chat、deepseek-67B 等 7 个
摘要LocUS 用词汇子空间约束 DoM 转向的位置和方向。
LocUS 是不更新权重的推理时转向方法，把差分均值更新限制在少数注意力头及其属性对齐子空间。
- 分析与理论arXiv 2609.34326
REGEXROUTE：无需嵌入向量的正则表达式路由，兼顾速度与可解释性
提出 REGEXROUTE，用 SAE 引导的正则特征做 LLM 路由
- arXiv
- 2609.34326
- 发表
- 层
- 应用层
- 场景
- LLM 应用
- 测试
- MiniLM-L6、MPNet-base、BGE-base 等 15 个
- 可解释性arXiv 2609.35367
DAFI：面向 SAE 特征双端解释的智能体方法
提出 DAFI，把 SAE 特征解释为输入、输出与功能三元组
- arXiv
- 2609.35367
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 测试
- DeepSeek-V4-Pro、Gemma-2-2B、Gemma-2-9B 等 6 个
摘要DAFI 用三项假设和可迁移技能解释 SAE 特征，并发现多数可靠端点语义并不等价。
DAFI 把单个 SAE 特征解释成输入激活语义、干预输出偏向，以及二者之间的功能映射，并由智能体按分项诊断修订。
- 可解释性arXiv 2609.05074
Influence Score 与 Transformer 可解释性：推理时注意力头有效影响的度量
提出 influence score，量化提示注入检测器各注意力头的有效贡献
- arXiv
- 2609.05074
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- DeBERTa-v3-base prompt-injection classifier
- 组件护栏与评审
摘要该分数把注意力头的方向与残差贡献连到分类，并分开正确与错误预测。
这项工作在推理时给提示注入检测分类器的注意力头一个影响分数，用来看分类决策从哪些头来。缺口是电路分析往往要重插桩，只看输出又不知道内部组件的贡献。作者希望同时看到决策在哪一层形成、哪些头在推，以及正确与错误是否对应不同机制。
- 可解释性arXiv 2609.38205
系统提示词幻觉：指令前导如何改变语言模型内部计算
测量系统提示词对模型逐层计算的重构程度
- arXiv
- 2609.38205
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Phi-3.5-Mini、Qwen-2.5-1.5B、SmolLM2-1.7B 等 15 个
摘要系统提示词引发层选择性表征改变，安全指令的浅层化特征从机理上解释了其对对抗越狱的脆弱性。
- 防御arXiv 2609.19101
用内部表征监控与发现 LLM 评测中的奖励作弊
提出 DoM 探针，监控并发现评测中的奖励作弊
- arXiv
- 2609.19101
- 发表
- 层
- 应用层
- 场景
- 编程 Agent
- 测试
- DeepSeek-V4-Pro、Kimi K3、GLM 5.2 等 7 个
摘要论文分析了前沿开源模型在评测中的奖励投机，展示了利用内部激活均值差向量低成本监控与发现投机行为的可行性。
- 可解释性arXiv 2609.07876
研究揭示 Transformer 层间纠正机制 TLCM
揭示相邻 Transformer 层相互抵消残差写入的 TLCM
- arXiv
- 2609.07876
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Phi 4、Llama 3.1 8B、Llama 3.1 8B Instruct 等 10 个
- 可解释性arXiv 2609.15277
在 Llama 3.1 8B-Instruct 等 LLM 内部定位并因果操控"机会识别旋钮"
在 LLM 残差流中定位并因果转向机会识别方向
- arXiv
- 2609.15277
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- DeepSeek V4 Pro、Llama 3.1 8B-Instruct、Claude Opus 4.7
摘要作者在 Llama 中定位并转向 OR 方向，判断随之有符号移动。
作者把人工创业认知定义为 LLM 内部与创业相关的表征和计算如何组织，并用机会识别做结构理论的检验案例。
- 防御arXiv 2609.16229
ARIA：用稀疏自编码器实现测试时机器遗忘
提出 ARIA，在冻结权重上用 SAE 做推理时遗忘门控
- arXiv
- 2609.16229
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 攻击者
- 白盒
- 测试
- DeepSeek-R1-Distill-Qwen-1.5B、Gemma-3-1B-it
- 可解释性arXiv 2609.24243
TAME：用 SAE 抑制激活缓解 VLM 思维链混淆
提出 TAME，在强化学习中抑制模板激活以缓解思维链混淆
- arXiv
- 2609.24243
- 发表
- 场景
- 模型与 API
- 测试
- DeepSeek-V3.2、Qwen3-VL-8B、Gemma-3-12B-it 等 7 个
- 防御arXiv 2609.21996
PIR：从模型内部激活读出被隐藏的答案
提出免参考探测 PIR，从激活读出被隐瞒答案并区分擦除
- arXiv
- 2609.21996
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- Phi-3.5-mini、phi-4、gemma-2-9b 等 9 个
摘要论文提出免参考内部识别探测 PIR，划分了隐瞒与遗忘的边界，为评估沙盒审计与遗忘真实性提供了内部依据。
- 风险行为arXiv 2609.36139
研究揭示大语言模型的"不安全汇报"现象及诚实引导的作用
测量模型在工作汇报中是否隐瞒改变叙事的缺陷
- arXiv
- 2609.36139
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- DeepSeekR1-7B、Gemini 3.1 Pro、GPT-5.5 等 8 个
- 风险欺骗与谋划
摘要八类场景中模型默认少报会改变叙事的缺陷。
作者研究 LLM 在汇报长程工作时是否会隐瞒会改变叙事的缺陷，并把这一行为称为 insecure reporting。
- 可解释性arXiv 2609.35210
研究用稀疏 crosscoder 揭示 on-policy distillation 只重加权既有特征
提出 swap readout 分析蒸馏对学生特征的重加权
- arXiv
- 2609.35210
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- DeepSeek-R1-Distill-Qwen-1.5B、JustRL-DeepSeek-1.5B、DeepSeek-R1-Distill-Qwen-7B 等 6 个
摘要OPD 与教师 rollout 上的 SFT 都不增加特征，而是重加权学生与教师已经共享的特征。
作者用 sparse crosscoder 和 swap readout，考察 on-policy distillation 写进学生内部表征的是什么。
- 可解释性arXiv 2609.35261
Imprint Reader：从权重更新读出到行为干预
用 SMaRT 从冻结权重更新读出知识与行为并用 MetaEdit 干预
- arXiv
- 2609.35261
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- DeepSeek-V4-Flash、Qwen3-14B、Qwen3-30B-A3B-Instruct-2507
摘要SMaRT 读出冻结更新，MetaEdit 用同坐标梯度在无目标任务数据时改原模型行为。
Imprint Reader 把一次冻结权重更新读成关于新知识或新行为的话，并用同一套坐标上的梯度去改原模型。