神经网络的鲁棒性：一种概率性且实用的方法

研究者提出概率鲁棒性这一新的神经网络鲁棒性定义，要求网络在给定输入分布下以至少 (1-ε) 的概率保持鲁棒。论文指出，现有鲁棒性定义多聚焦对抗输入的最坏情况，过于严格，实际神经网络难以满足也难以验证，而真实世界的输入来自非对抗的概率分布。作者还给出基于抽象解释与重要性抽样的检验算法，先用抽象解释近似网络行为并过近似违反鲁棒性的输入区域，再用重要性抽样抵消过近似的影响，估计网络违反鲁棒性性质的概率，为鲁棒性估计提供实用且有原则的方法。