面向深度神经网络鲁棒归因的平滑几何

研究者提出缓解针对特征归因的对抗攻击的方法，通过在模型梯度上引入 Lipschitz 连续性条件，使基于梯度的归因更加鲁棒。这类攻击能让邻近输入产生差异很大的解释，在高风险应用中会损害安全与可信性。论文给出一种低成本的正则化方法和一种无需重训的随机平滑技术，在多类图像模型上的实验显示两者均能持续提升归因鲁棒性，并在真实大规模模型上证实了平滑几何在这类攻击中的作用。