GenFighter：一种生成式与进化式的文本攻击消除方法

GenFighter 是一种针对 NLP 对抗攻击的防御方法，在受攻击准确率和攻击成功率指标上优于现有最先进防御。它通过在训练分类分布上学习与推理，识别偏离分布的潜在恶意样本，将其转化为与训练数据语义等价的实例，并以集成方法统一响应。该方法还令每次攻击需要大量查询，使攻击在真实场景中更难实施。