攻击逻辑而非输出：消除神经网络捷径的概念属性攻击
Attack logics, not outputs: Concept-based Property Attacks for Shortcut Elimination in Neural Networks
AI 导读
论文提出针对神经网络的概念属性攻击，将对抗攻击从证伪输出类别扩展为证伪人类可解释概念上的逻辑约束，例如红色且八边形应推出停车标志。作者借助概念可解释人工智能（C-XAI）技术在已训练模型上实现该方法，并形式化证明此类攻击相比简单类别证伪预计具有更小的搜索空间。在涵盖视觉任务和一个安全相关代码处理任务的多模型、多数据集实验中，基于新攻击的重训在保持经典对抗重训鲁棒性收益的同时，更好地消除了语义偏差。