可解释性 · 论文

HeadEdit：通过冻结的 unembedding 矩阵校准语言模型行为

提出 HeadEdit，经冻结 unembedding 做随输入变化的 logit 校正

arXiv

2610.01170

发表

10月1日

层

模型层

场景

模型与 API

测试

Qwen3-4B、Gemma-3-4B-IT、Llama-3.2-3B-Instruct 等 4 个

• 防御推理时干预
• 风险拒答失当
• +1+1

TULIP：按输入定位层级的定向大模型遗忘方法

提出 TULIP，按输入定位形成层并去除目标 token 对齐以实现定向遗忘

arXiv

2609.34591

发表

9月28日

层

训练与数据层

场景

模型与 API

测试

Llama-3.1-8B、Llama-3.2-3B、Llama-3.2-1B 等 7 个

• 防御模型加固
• 攻击提取与窃取

GUARD：在 CosyVoice2 上做说话人身份遗忘以阻止重识别

提出 GUARD，在零样本 TTS 上用激活转向遗忘说话人身份以阻止再识别

arXiv

2609.27399

发表

9月23日

层

模型层

场景

模型与 API

测试

CosyVoice2-0.5B、F5-TTS、FireRedTTS

• 防御推理时干预
• 攻击恶意使用
• 组件音频

SCALPEL：用对比稀疏自编码器实现选择性表征层遗忘

提出 SCALPEL，用对比 SAE 在表征层选择性遗忘特定事实

arXiv

2609.31056

发表

9月25日

层

模型层

场景

模型与 API

测试

Qwen2.5-1.5B-Instruct、Llama-3.2-1B-Instruct、Gemma-2-2B-it

• 防御推理时干预
• 攻击提取与窃取

多语言 LLM 在语义保持结构扰动下的结构敏感性：IndicReStruct 基准与机制可解释性分析

构建 IndicReStruct，评测保语义结构扰动下的多语言数学推理

arXiv

2609.03511

发表

9月3日

层

模型层

场景

模型与 API

测试

Gemma-2-9B-it、Gemma-2-27B-it、GPT-OSS-20B 等 7 个

ARIA：用稀疏自编码器实现测试时机器遗忘

提出 ARIA，在冻结权重上用 SAE 做推理时遗忘门控

arXiv

2609.16229

发表

9月15日

层

模型层

场景

模型与 API

攻击者

白盒

测试

DeepSeek-R1-Distill-Qwen-1.5B、Gemma-3-1B-it

• 防御推理时干预
• 攻击提取与窃取
• 组件推理链
• +2+2

SoK 综述：可解释性 AI 如何成为机器学习隐私攻击面

系统比较解释获取路径下的抽取、成员推断与反演

arXiv

2609.10627

发表

9月9日

层

模型层

场景

模型与 API

测试

Linear、two-layer ReLU、convolutional network 等 15 个

• 攻击提取与窃取