EnsembleSHAP：面向随机子空间方法的忠实且可认证鲁棒的特征归因方法
EnsembleSHAP: Faithful and Certifiably Robust Attribution for Random Subspace Method
AI 导读
研究者提出 EnsembleSHAP，一种面向随机子空间方法的特征归因方法，通过复用该方法的计算副产品实现高效计算，并保持局部准确性等有效特征归因的关键性质。随机子空间方法被用于对抗攻击与后门攻击的认证防御，以及构建抗越狱攻击的鲁棒对齐大语言模型，而 Shapley value、LIME 等现有归因方法用于该类模型时计算代价高且缺乏安全保证。作者称 EnsembleSHAP 是首个对 explanation-preserving 攻击建立可证明鲁棒性的工作，可对针对特征归因方法的攻击提供保证性防护，并在后门攻击、对抗攻击和越狱攻击等经验攻击下评估了解释的有效性。代码开源于 GitHub（Wang-Yanting/EnsembleSHAP）。