在大语言模型中植入偏见后门

研究者在模型构建者自身可能作为攻击者的白盒威胁模型下，评估了针对大语言模型的偏见后门攻击与防御。团队开展了超过 1000 次评测，采用更高的投毒比例和更大规模的数据增强，比较语法触发与语义触发两类后门，并检验模型内在与模型外在两类后门移除防御范式。结果显示，两类攻击都能有效诱导目标行为并大体保持模型效用，其中语义触发攻击在诱导负面偏见上通常更有效，而两类后门都难以造成正面偏见；两类防御虽能缓解这些后门，但要么导致效用大幅下降，要么需要很高的计算开销。