论对抗样本的（统计）检测

研究者提出用统计检验检测对抗样本，并给模型增加一个专门识别对抗输入的额外输出。论文论证对抗样本与原始数据并非来自同一分布，因而可用统计检验发现；作者在快速梯度符号法、显著性图法等多种对抗样本生成方法和多个数据集上评估，统计检验在 10 到 100 个数据点的样本量下即可确信地标记含对抗输入的样本集；增强后的模型要么以超过 80% 的准确率将对抗样本识别为离群点，要么使攻击者所需添加的扰动增加 150% 以上。作者据此认为对抗样本的统计性质是其检测的关键。