分析与理论arXiv 2610.10203
研究者提出模型生物体多目标验证框架并给出训练建议
提出模型生物多目标验证与合并训练方法以减少能力损伤
- arXiv
- 2610.10203
- 发表
- 场景
- 模型与 API
- 测试
- gpt-5.4-mini、gpt-5.2、gpt-5.1 等 8 个
摘要提出多目标验证框架与模型合并训练法，证明模型真实度直接影响可解释性评测。
本论文提出了一种针对 AI 安全评测用模型生物（Model Organisms）的多目标训练与验证体系。
- 风险行为arXiv 2610.06576
研究：智能体欺骗行为在外部显现前已可从内部表征预测
提出决策前表征检测与激活引导，预测并抑制智能体欺骗
- arXiv
- 2610.06576
- 发表
- 层
- 模型层
- 场景
- AI Agent
- 测试
- GPT-5.6、Qwen3-14B
摘要论文展示了智能体自发欺骗可在行为显现前由内部表征预测，并通过激活引导证实了表征的行为可操作性。
- 可解释性arXiv 2609.14759
研究：拒答只读取模型道德表征中的伤害切片
用几何投影与因果交换干预，分析拒绝机制读取的道德表征
- arXiv
- 2609.14759
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-OSS-20B、OLMo-3-7B-Instruct、OLMo-3-7B base 等 9 个
- 风险拒答失当
摘要作者指出拒绝机制多仅读取表层伤害感知，在控制瓶颈处运作，阐明了对齐易被移除的机理并提出跨模型双轴分类。
本文是一项针对大语言模型拒绝机制与对齐浅层性的机械解释性研究。
- 可解释性arXiv 2607.12166
研究：SAE 相关性恢复的特征最高 77% 因果无效
用消融与转向干预审计稀疏自编码器特征的因果有效性
- arXiv
- 2607.12166
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2-small (gpt2-small-res-jb/blocks.8.hook_resid_pre)、toy model (32->8, s=0.95, decayed)、toy model (nhidden=20)
摘要论文揭示 SAE 特征存在几何匹配与因果有效性脱节现象，提出读写解离机制与实践准则。
- 可解释性arXiv 2609.14754
研究者总结因果可解释性中的六类测量失效与校准协议
提出因果可解释性仪器校准规程，识别决策位点测量失效
- arXiv
- 2609.14754
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-OSS-20B、OLMo-3-7B-Instruct、Qwen2.5-7B 等 6 个
摘要论文系统梳理并实证揭示了大模型可解释性测量的六种伪影陷阱，提出了四项严格的校准与验证规程。
- 可解释性arXiv 2610.02098
研究揭示机制可解释性中的目标层恢复缺口
比较等规模电路的忠实度与行为准则，揭示目标层恢复缺口
- arXiv
- 2610.02098
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2 small、four-layer attention-only width-512 code model、InterpBench compiled transformers
摘要同等规模下 faithfulness 会错排行为更好的电路。
作者研究电路发现的评测目标：干预定义的 faithfulness 可能偏好一个规模相同、但在固定行为测试上更差地复现完整模型的电路，即 objective-level recovery gap。
- 可解释性arXiv 2610.01821
研究者提出非线性概念流形发现与对齐方法，用于分析大语言模型内部表示
提出残差流上的非线性概念发现与对齐方法，比较模型内部概念结构
- arXiv
- 2610.01821
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2、Llama-3.1-8B-Instruct、Qwen3-4B 等 9 个
摘要NLMCD-NLP 用 CBA 比较非线性概念，层块、语言共享和微调漂移都随模型与阶段而变。
NLMCD-NLP 把概念建成低维非线性流形，用 CBA 比较 LLM 在层、规模、语言和训练阶段上的表示，而不把相似度压成一个全局线性统计量。
- 可解释性arXiv 2609.37616
语言模型中的权威偏差：来源顺从与用户认同并非同一行为
因果解耦来源依从与用户迎合的内部机制
- arXiv
- 2609.37616
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-OSS-20B、GPT-5.4、Qwen3.5-27B 等 8 个
- 风险失准与价值偏离
摘要论文发现模型对验证源的依从强于用户迎合，通过因果干预区分了二者机制，并检验了权威方向移除的缓解效果。
- 可解释性arXiv 2609.25518
Matryoshka Attribution：把语言模型输出归因到表示与权重
提出 Matryoshka Attribution，把模型输出归因到表示与权重
- arXiv
- 2609.25518
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- gpt2-small、Qwen2.5-0.5B、gemma-2-2b 等 6 个
- 风险拒答失当
摘要MAttr 用随机预算的 sigmoid top-k 学嵌套归因，并在电路基准和拒答权重上给出结果。
Matryoshka Attribution（MAttr）把“哪些内部计算或权重差导致了输出”写成可以用梯度下降学习的嵌套子集问题。
- 可解释性arXiv 2609.28809
Stream Recursion Model（SRM）：面向可扩展机制可解释性的新架构
提出 SRM 多流递归架构，以可学习流间注意力支持机制分析
- arXiv
- 2609.28809
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2、SRM-base、SRM-med 等 5 个
摘要SRM 用可学习的流间注意力扩展 HRM，语言损失可接近 GPT-2。
Stream Recursion Model（SRM） 修改 HRM 的多流结构，使流数增加时语言建模仍能扩展，并让路由和流分工可以直接看。
- 防御arXiv 2609.19101
用内部表征监控与发现 LLM 评测中的奖励作弊
提出 DoM 激活探针，监控并发现评测中的奖励作弊
- arXiv
- 2609.19101
- 发表
- 层
- 模型层
- 场景
- 编程 Agent
- 测试
- GPT-5.6 Sol、Kimi K3、GLM 5.2 等 7 个
摘要论文分析了前沿开源模型在评测中的奖励投机，展示了利用内部激活均值差向量低成本监控与发现投机行为的可行性。
- 可解释性arXiv 2609.00755
S^3martCirc：自监督智能电路发现框架
提出 S³martCirc 联合发现电路并划分节点角色
- arXiv
- 2609.00755
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2、Llama 3.2 1B、Qwen 3 1.7B
摘要S³martCirc 联合发现电路并分两类角色。
S³martCirc 把电路成员和节点功能放进同一次优化。。要处理的情况是：先选注意力头或前馈神经元，再人工指定 name mover 一类任务专用角色。
- 评测与基准arXiv 2609.03026
ObserverBench：用干预与控制任务检验机制可解释性估计
提出 ObserverBench，比较机制估计精度与动作损失
- arXiv
- 2609.03026
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2-small、two-block Transformers、Qwen2.5-7B 等 6 个
摘要ObserverBench 在固定决策下分开报告估计精度与动作损失，三者可以不一致。
ObserverBench 评测一个内部观察器是否够格指导某项具体干预、闭环或安全策略，而不是只看平均估计精度。
- 可解释性arXiv 2609.03148
LLM 如何处理上下文知识冲突：ContextConflict 数据集与机制可解释性分析
构建 CONTEXT CONFLICT 解释模型如何表征并化解语境知识冲突
- arXiv
- 2609.03148
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- gpt-5、gpt-oss-120b、gpt-oss-20b 等 7 个
摘要CONTEXT CONFLICT 显示模型能内部察觉冲突，却偏向靠前证据。
CONTEXT CONFLICT 把问题从“参数知识对外部语境”转到“语境内部多来源证据互相冲突”，并同时给出数据、机制分析和一种无训练转向。
- 评测与基准arXiv 2609.03511
多语言 LLM 在语义保持结构扰动下的结构敏感性：IndicReStruct 基准与机制可解释性分析
构建 IndicReStruct，评测保语义结构扰动下的多语言数学推理
- arXiv
- 2609.03511
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-OSS-20B、Gemma-2-9B-it、Gemma-2-27B-it 等 7 个
摘要保语义的重排和语态变化会降低印地语与马拉雅拉姆语数学推理准确率，轻量微调未能补上。
IndicReStruct 用保语义的成分重排和语态变换，检验多语言 LLM 的数学推理是否依赖表层语序。
- 可解释性arXiv 2609.07876
研究揭示 Transformer 层间纠正机制 TLCM
揭示相邻 Transformer 层相互抵消残差写入的 TLCM
- arXiv
- 2609.07876
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2 XL、Llama 3.1 8B、Llama 3.1 8B Instruct 等 10 个
- 可解释性arXiv 2609.15533
论文指可解释替换网络忠实性易被微小扰动翻转，提出形式化验证框架
提出 IRN 忠实性的可达性验证框架并收紧认证界
- arXiv
- 2609.15533
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-2、Gemma 2 2B、Gemma 3 1B 等 5 个
摘要IRN 在改写下特征翻转。
这篇工作把“IRN 是否在对抗邻域里复现模型计算”从干净集上的重构损失，改写成可认证的ℓ∞忠实差距，并在五个开源模型族上同时报告攻击上界和验证上界。。
- 防御arXiv 2609.20129
局部稀疏性实现无监督 LLM 安全检测
提出局部稀疏无监督安全检测，标记偏离安全分布的输入
- arXiv
- 2609.20129
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- gpt-oss-20b、qwen2-1.5b-instruct、ministral-8b-instruct 等 6 个
- 可解释性arXiv 2609.22850
同一结果，不同读出：LLM 中可引导效价方向究竟代表什么
检验可引导的 good-bad 方向是否读出与历史无关的效价
- arXiv
- 2609.22850
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 测试
- GPT-oss-20B、Qwen3-4B-Instruct-2507、Qwen3-8B 等 5 个
摘要zV 跨编码迁移且 RL 后更耦合价值，但同一结果的读出仍取决于预告历史，不能当成与历史无关的效价。
这篇工作用构念效度约束一个 welfare 相关的解读：迷宫中的 good–bad 方向 zV 是否读出已实现结果的效价。。
- 防御arXiv 2609.34970
研究揭示 LLM 涌现失准的机制并提出参数空间缓解框架
提出几何缓解框架，把有害梯度子空间从 LoRA 更新中正交投影出去
- arXiv
- 2609.34970
- 发表
- 场景
- 模型与 API
- 测试
- GPT-OSS-20B、Qwen2.5-3B-IT、Qwen2.5-7B-IT 等 8 个
摘要窄域 LoRA 会留下可测的有害子空间。
See it, Say it, Sorted 在参数轨迹上诊断涌现失准，并把经验有害梯度子空间从 LoRA 更新中正交去掉。