Eminence：利用特征边界模糊性实现鲁棒后门攻击
The Eminence in Shadow: Exploiting Feature Boundary Ambiguity for Robust Backdoor Attacks
AI 导读
研究者提出针对深度神经网络的黑盒后门攻击框架 Eminence，通过利用特征边界模糊性，以低于 1% 的投毒率实现超过 90% 的攻击成功率，干净准确率损失可忽略。论文先从理论上分析稀疏决策边界如何让极少量改标签样本造成大量误分类，并用影响函数分析量化这些边界样本引起的参数偏移。基于该分析，Eminence 优化出视觉上隐蔽的通用触发器，具备可解释性、理论保证与隐蔽性，在多种模型、数据集和场景间保持高迁移性；实验还显示边界投毒与对抗性边界操纵之间存在指数关系。