可解释性 · 论文

ObserverBench：用干预与控制任务检验机制可解释性估计

提出 ObserverBench，比较机制估计精度与动作损失

arXiv

2609.03026

发表

9月3日

层

模型层

场景

模型与 API

测试

two-block Transformers、GPT-2-small、Qwen2.5-7B 等 6 个

LLM 如何处理上下文知识冲突：ContextConflict 数据集与机制可解释性分析

构建 CONTEXT CONFLICT 解释模型如何表征并化解语境知识冲突

arXiv

2609.03148

发表

9月3日

层

模型层

场景

模型与 API

测试

gpt-5、claude-4.5-sonnet、gemini-2.5-pro 等 7 个

多语言 LLM 在语义保持结构扰动下的结构敏感性：IndicReStruct 基准与机制可解释性分析

构建 IndicReStruct，评测保语义结构扰动下的多语言数学推理

arXiv

2609.03511

发表

9月3日

层

模型层

场景

模型与 API

测试

Gemma-2-9B-it、Gemma-2-27B-it、GPT-OSS-20B 等 7 个

Llama-3.1 医学微调模型在专业术语理解上为何不如通用版：一项机制可解释性对比分析

提出 JU 与 JI 基准，并用组件分解定位术语知识

arXiv

2609.13556

发表

9月12日

层

模型层

场景

模型与 API

测试

Llama-3.1-8B-Instruct、Llama-3.1-8B-UltraMedical

REINS：用 SAE 特征同时抑制有害续写并增强拒答的引导方法

提出 REINS，在 SAE 空间抑制有害延续并增强拒答

arXiv

2608.28233

发表

8月28日

层

模型层

场景

模型与 API

测试

Qwen3.5-4B-Base、Qwen3.5-2B-Base、Gemma-3-1B-IT

• 防御推理时干预
• 攻击越狱