能力增强能否定位到特定注意力头？

给定模型与任务，是否存在少量注意力头，删除后不经微调就能提高该任务表现？ 作者称之为能力增强定位（Capability Enhancement Localization, CEL）。

• 任务场景：作者称同一参数集常可通过自然语言指令或少量示例支持多种任务，因此需要理解注意力头等组件对单项任务的贡献。
• 已有认识：作者称许多头训练后可以剪掉而整体表现变化不大；另有少量任务关键头，消融后会损害对应任务。CEL问的是相反方向。
• 已有特例：Held与Yang (2023)、Jin等 (2024)、Nguyen等 (2025) 在目标语言、知识冲突问答或数学推理中观察到剪头带来的提升。作者希望不预设某种干扰来源，并在更广的任务和模型上寻找这种稀疏消融。
• 本文要做的两件事：用不相交的发现集做两阶段搜索，头预算通常为3，再在留出集上测增益；并在特征冲突的简化注意力模型里，给出一种由梯度下降诱导的机制。

引言与 Related Work 把讨论分成三类。作者只在点名对比时写出和本文的差别。

冗余、特化与能力定位

• 可移除的头：Michel等 (2019) 与 Voita等 (2019) 显示许多注意力头可在训练后移除，任务表现损失不大。引言还写到 Clark等 (2019b) 观察到同一 BERT 层内注意力模式相似、行为重叠。
• 专门计算：Olsson等 (2022) 讨论与上下文学习对应的归纳机制；Wu等 (2025) 讨论长上下文检索；Zhang等 (2024) 讨论算术中对操作数和运算符的处理。
• 定位研究：Meng等 (2022)、Panigrahi等 (2023)、Huang等 (2025) 分别定位事实关联、微调后的任务技能，以及与共享能力相关的一小群神经元。Bair等 (2026) 用 LASSO 找任务关键注意力头；作者称联合消融其中少数头会降低目标任务表现，并大致保留无关任务表现。

剪头后的表现提升

• 跨语言：Held与Yang (2023) 找出与跨语言干扰相关的头，剪掉后可提高目标语言表现。
• 知识冲突：Jin等 (2024) 研究内部知识与外部上下文的冲突，并写到剪掉选定头可以改善问答。引言另写该工作区分偏向内部权重或外部上下文的头。
• 数学推理：Nguyen等 (2025) 观察到剪掉某些头可改善数学推理，并用不同剪枝配置生成多样答案，供 best-of-N 选择。

电路与定位的干预含义

• 电路：Wang等 (2022) 识别间接宾语识别的注意力头电路；Conmy等 (2023) 用激活修补自动发现计算子图。
• 定位不等于编辑位置：Hase等 (2023) 发现因果追踪结果并不能指出最适合做事实编辑的 MLP 层。
• 作者对自身实验的限定：作者称头消融度量的是指定干预的效果，并不揭示被移除头执行的计算；理论则在简化模型中说明训练如何产生删除后有利于某一任务的头。

实验对照是同一协议下的完整模型，不是另一套剪枝算法。任务数据为 Arithmetic（Brown等, 2020）、MBPP（Austin等, 2021）、HellaSwag（Zellers等, 2019）、BoolQ（Clark等, 2019a）。作者称本文转向增强区间，即寻找联合移除后、不再微调即可提高任务表现的小头集，并补上先前工作忽略的训练动态解释。

经验部分用两阶段干预选择在发现集上定下一个小头集，再于留出集测消融增益。理论部分在三头对角 softmax 注意力上，用两个特征冲突任务分析梯度下降。

消融定义与选择目标

• 头集合：模型有 L 层、每层 H 个头，共 N=LH。干预 S 满足头数不超过 k，且 k 远小于 N；本文通常取 k=3。
• 消融方式：M\S 把 S 中头的输出在每个 token、进入注意力输出投影之前置零。其余参数不变，不做微调。
• 增益：准确率是数据集上被任务评分器判对的比例。测试增益为 Δ_T,Dtest(S)=Acc_T,Dtest(M∖ S)−Acc_T,Dtest(M)，即消融模型与完整模型的准确率之差。增益大于 0 则称 S 在该测试集上有益。
• 数据隔离：选择只用与测试集不相交的发现集，得到头数在 1 与 k 之间的子集，并在测试前固定。作者希望增益来自任务，而不是只拟合发现集。

两阶段例程

• 排序：Algorithm 1 取候选数 p=10、预算 k=3。发现集上依次比较更高增益、更低损害、更高准确率、更少头，再按头标识的字典序。损害是完整模型答对、消融后答错的例子数。
• 第一阶段：每个头单独在发现集上评估，取前 p 个单头干预组成候选池。
• 第二阶段：枚举该池中规模 1 到 k 的子集；规模至少为 2 的在发现集上评估，并复用单头结果。取得分最高者后冻结。
• 留出比较：在测试集上把该子集的消融模型与一次匹配的完整模型运行比较。测试例不参与打分或选择。作者称此搜索限于单头效应选出的池，不一定找到全体头中增益最高的子集。

简化模型与联合目标

• 两个任务：U、V、W 为独立 Rademacher 变量。固定 a、b、c 大于 0，并设 t=a/2。任务 A 的输入为 (U, V, 0)、目标为 bV；任务 B 的输入为 (U, 0, W)、目标为 aU+cW。坐标 0 上，A 的理想预测应忽略 U，B 则应给系数 a。
• 架构：一层三个头。坐标 j 的查询沿固定方向，记忆对为该方向的正负向量，三头共享固定掩码。作者称这样每个头对每个特征有相同访问，分配不预先指定。
• 对角系数：查询、键、值、输出投影均为对角。有效系数为 c_{hj}=o_{hj}v_{hj}\tanh(q_{hj}k_{hj})，即输出、值与查询–键乘积的 tanh 相乘。三头系数相加得到 w，标量预测是 w 与输入的内积。
• 风险：观察无噪声，分析用总体平方风险。Proposition 4.1 把两任务风险写成坐标误差的平方和，联合损失是二者之和的四分之一。最优聚合系数为 (a/2, b, c)。作者称目标只约束各特征和，不决定头间如何拆分；删掉头 h 会从 w 中减去该头的系数向量。

训练与两个定理

• 训练：每个头–特征四个标量，初始化为小尺度 α 乘独立标准正态向量。固定步长、全批量梯度下降。训练中不做符号条件、参数绑定或再平衡。
• 定位：Theorem 4.2 称，对几乎所有初始化、足够小的 α 和足够小的固定步长，轨迹有界并收敛，聚合系数趋于 (a/2, b, c)。每个特征有一个获胜头，标签独立且在三头上均匀；其余头的贡献保持在 α 的四次量级。不同特征可以共用同一个获胜头，因此仅有定位还不能保证删头有益。
• 有益删除：Theorem 4.3 定义事件 E 为冲突特征的获胜头不同时承载两个任务特异特征，并给出 Pr(E)=4/9；附录把该概率写成 (2/3) 的平方。在 E 上删除该头、不改其他参数，则检查点之后任务 A 的风险下降约为 t 的平方，任务 B 的风险上升约为 3t 的平方。
• 作者对极限的说法：作者称小初始化极限下，两个完整任务风险都趋向 t 的平方；删除所选头后任务 A 风险为 0、任务 B 为 4t 的平方，联合目标上升 t 的平方的一半。作者称该干预通过离开联合最优折中来改善一个任务。

实验设置

• 模型：Llama-3.2-3B-Instruct、Qwen2.5-3B-Instruct、SmolLM3-3B-Instruct。Table 2 写 LLaMA-3.2-3B 为 28 层、每层 24 头、共 672 个可消融头；Qwen2.5-3B 与 SmolLM3-3B 均为 36 层、每层 16 头、共 576。SmolLM3 以 non-thinking mode 评估。
• 数据规模：Table 3 的发现集/留出集为 Arithmetic 2,000/1,000，HellaSwag 2,000/10,042，BoolQ 2,000/3,270，MBPP 374/500。HellaSwag 与 BoolQ 的留出集是官方验证集；MBPP 留出集是官方测试集；Arithmetic 的两部分从官方验证集 20,000 条中抽取且互不相交。
• 选择：每个模型–任务对在发现集上运行 Algorithm 1，p=10、k=3。子集在测试前固定，测试例不参与评分或选择。
• 对照与指标：对照是同一任务协议下的完整模型。Table 1 报告留出准确率、Gain（百分点）和 Rel. error reduction。答对与否由任务评分器判定。
• 运行：每个 Slurm 作业一块 NVIDIA L40S、两颗 CPU、24 GB 系统内存、batch size 8。
• 论文未写明：重复次数、随机种子、被选头的层号与头号，以及 Rel. error reduction 的计算公式。论文未写使用 LLM 裁判。

主结果

据 Table 1。箭头左侧为完整模型留出准确率，右侧为消融后准确率，括号内为 Gain（百分点）。SmolLM3 为 non-thinking mode。

| 任务 | SmolLM3 | Qwen2.5-3B-Instruct | Llama-3.2-3B-Instruct | | Arithmetic | 70.40%→83.50%（+13.10） | 89.50%→90.90%（+1.40） | 68.00%→74.30%（+6.30） | | BoolQ | 82.57%→84.92%（+2.35） | 80.21%→82.35%（+2.14） | 78.72%→81.25%（+2.54） | | HellaSwag | 75.75%→77.05%（+1.29） | 75.02%→76.66%（+1.63） | 71.64%→73.78%（+2.14） | | MBPP | 50.40%→52.00%（+1.60） | 60.40%→62.20%（+1.80） | 47.80%→53.00%（+5.20） |

• 作者的范围：作者称这些干预在 Arithmetic、BoolQ、HellaSwag 与 MBPP 上都提高了留出准确率，但增益随模型–任务对变化，因此不声称消融对每个模型、每个任务都有帮助。
• 相对误差下降：Table 1 另报 Rel. error reduction。该列最小为 SmolLM3、MBPP 的 3.23%，最大为 SmolLM3、Arithmetic 的 44.26%。正文没有单独解释这一列。
• 搜索的含义：作者称两阶段过程不一定找到全体头中增益最高的子集；表中结果确立的是已测设置里的经验现象，并不解释训练为何产生这些可删组件。

理论部分的定量陈述

• 不是另一组语言模型实验：Theorem 4.3 给出事件 E 的概率为 4/9。E 指承载冲突特征的获胜头不在两个任务特异特征的获胜头之中。
• 检查点之后：对几乎所有落入 E 的初始化、足够小的 α，以及检查点之后的迭代，任务 A 的风险下降为 t 的平方加四次小量，任务 B 的风险上升为 3t 的平方加四次小量。
• 作者对极限的解读：作者称两侧完整风险趋向 t 的平方；删除所选头后任务 A 风险为 0、任务 B 为 4t 的平方，联合目标增加 t 的平方的一半。作者称这离开了联合最优折中，且不认定该机制负责 Table 1 的增益。

其他消融与分析

• 论文未报告改变 p、k、发现集抽样或学习率后的数值。
• Table 1 的 12 个增益都为正；该表没有增益不大于 0 的模型–任务对。
• 论文未报告被选头标识，因此不能从正文核对具体删的是哪些层、哪些头。

作者指出的局限与后续方向

• 外推：结果只涉及所评估的模型、数据集和推理协议，并不确立每个模型–任务对都存在有益消融（Section 5）。
• 发现集稳定性：选择与评估使用不相交例子，但所选子集及其增益在不同发现样本上的稳定性仍刻画不足（Section 5）。
• 搜索：两阶段过程不保证最优子集；单头筛选可能排除只在联合消融中才出现收益的组合；增益依赖发现数据和候选池；搜索失败不能确立不存在有益稀疏干预（Section 5）。
• 理论边界：分析限于固定特征编码、对角投影、小高斯初始化，以及无噪声总体目标上的全批量梯度下降。作者称它不确立该机制解释已评估语言模型中的增益，也不确立它覆盖全部 CEL（Section 5）。
• 搜索的后续：作者将后续工作包括能计入头间交互的搜索，以处理单头筛选可能遗漏的有益组合（Section 6）。
• 理论的后续：作者将后续工作包括刻画固定特征编码与对角参数化之外的条件，并允许学习到的表示和特征之间的交互（Section 6）。

实验覆盖范围

• 被测模型为 Llama-3.2-3B-Instruct、Qwen2.5-3B-Instruct、SmolLM3-3B-Instruct，任务为 Arithmetic、BoolQ、HellaSwag、MBPP，共 12 个模型–任务对（Section 3.2、Table 1）。
• 发现集与留出集规模见 Table 3；头预算 k=3，单头候选数 p=10，两部分数据不相交（Algorithm 1、Section 3.1）。
• SmolLM3 以 non-thinking mode 评估；每个作业一块 NVIDIA L40S，batch size 为 8（Section 3.2、Table 1、Table 2）。
• 理论对象是三个头、两个等权任务、对角投影、总体平方风险和全批量梯度下降（Section 4）。
• 论文未报告重复次数、被选头的层与编号，以及改变 p 或 k 的结果。实验干预是头输出置零；作者在 Section 2 写明这不揭示被删头的计算。

CEL 问的是：删掉少量注意力头并且不再微调，能否提高某一任务的留出表现。

• 问题：作者从冗余头和任务关键头出发，反过来找删除后能提高指定任务的稀疏头集，而且不先假设干扰来自语言、知识冲突或数学推理。
• 做法：发现集与测试集不相交。先评估单头并留下前 10 个，再在规模 1 至 3 的子集中选择，测试前冻结。消融把这些头在每个 token、注意力输出投影之前的输出置零。
• 留出数字：三个 3B 指令模型在 Arithmetic、BoolQ、HellaSwag、MBPP 上，Table 1 的 12 个增益都为正。SmolLM3 的 Arithmetic 从 70.40% 到 83.50%（+13.10 个百分点，Rel. error reduction 为 44.26%）。据 Table 1，增益最小的一格是该模型 HellaSwag 的 +1.29 个百分点。Llama-3.2-3B-Instruct 的 MBPP 从 47.80% 到 53.00%（+5.20 个百分点）。
• 理论：两个等权任务对同一输入坐标的理想系数不一致。三头对角 softmax 注意力从小高斯初始化做全批量梯度下降。作者在 Theorem 4.2 中称各特征会集中到一个获胜头；Theorem 4.3 称以概率 4/9，删掉只承载冲突特征的头会降低任务 A 的风险、升高任务 B 的风险，尽管聚合系数已是联合目标的最优。
• 作者结论：作者称联合优化达到最优，仍可以和删头提高单一任务并存。他们同时称，这只是一种可能机制，并不认定它造成了上述语言模型里的增益。