迈向脉冲神经网络对抗鲁棒性的可靠评估
Towards Reliable Evaluation of Adversarial Robustness for Spiking Neural Networks
AI 导读
研究者提出一个更可靠的脉冲神经网络（SNN）对抗鲁棒性评估框架。针对脉冲激活的二值和不连续特性导致梯度消失、使基于梯度下降的鲁棒性评估不可靠的问题，论文从理论上分析代理梯度的梯度消失程度，提出自适应锐度代理梯度 ASSG，在攻击迭代中根据输入分布自适应调整代理函数形状；并设计 L∞ 约束下具有自适应步长的攻击 SA-PGD，在不精确梯度下实现更快更稳定的收敛。大量实验显示，该方法在多种对抗训练方案、SNN 架构和神经元模型上显著提高攻击成功率；实验结果还表明当前 SNN 的鲁棒性被明显高估，凸显了开发更可靠对抗训练方法的必要性。代码已在 GitHub 开源：https://github.com/craree/ASSG-SNNs-Robustness-Evaluation