LocUS:面向定向激活引导的注意力头选择与子空间投影
LocUS: Head Selection and Subspace Projection for Targeted Activation Steering
AI 导读
LocUS(Localized Unembedding Steering)将激活引导约束到模型自身输出词表子空间,通过识别 unembedding 矩阵中属性专属的线性子空间,把引导变换限制在该子空间内,并只作用于稀疏的注意力头子集。在三个模型族上针对毒性缓解、情感转向与谄媚抑制的评测显示,LocUS 匹配或超越 SOTA 基线,仅干预不到 6% 的参数,且更好地保留通用能力。