对固定线性擦除的秩一绕过
A Rank-One Bypass of Fixed Linear Erasure
AI 导读
论文展示了对固定线性概念擦除层的秩一绕过攻击:在开放权重设置下,攻击者可以修改产生内部特征的层,从而恢复被擦除的目标信息。作者证明,只要擦除层向允许的下游分类器传输哪怕一个可见方向,攻击者就能把目标分数写入该方向并穿过该层,且该条件也是必要的;对非常数线性目标分数,所需修改是一个秩一仿射更新。在六个 CIFAR-10 类对任务上,该攻击路径恢复了几乎全部擦除前的目标性能,并可使已部署的良性线性头分数在数值容差内保持不变。成本方面,使用 8 个目标标签和 2000 条无标注校准样本,10% 的平均相对特征编辑即可达到 79.8% 测试准确率,为拟合分数相对随机增益的 91.2%;更紧的编辑限制会大幅降低成功率。作者据此指出,线性 guardedness 仍是对当前表示的有效保证,但其本身并不构成对可编辑开放权重模型的抗篡改保证。