用归因方法解码化学领域神经网络模型中的数据集偏差
Using Attribution to Decode Dataset Bias in Neural Network Models for Chemistry
AI 导读
研究者用归因方法剖析预测分子-蛋白靶点结合的深度神经网络，发现即使模型在合成数据集的留出测试集上准确率完美，仍会因数据集偏差学到虚假关联。作者利用这种不稳健性构造出能欺骗模型的对抗样本，并指出数据集偏差使模型无法可靠揭示蛋白-配体结合机制。作者据此提出检验数据集偏差的测试，未通过则需简化或正则化模型、扩充训练数据。