论对抗性机器学习中透明与安全的权衡
On the Trade-Off Between Transparency and Security in Adversarial Machine Learning
AI 导读
研究者通过可迁移对抗样本攻击考察透明性与安全的冲突，此类攻击中攻击者用代理模型恶意扰动输入，以欺骗防御方的目标模型。对九种攻击在 181 个模型上的大规模实证评估发现，当攻击者与防御方在是否设防上的选择一致时攻击更容易成功，因此隐蔽性可能对防御方有利。论文将该问题分别建模为 Nash 博弈和 Stackelberg 博弈并比较预期结果，分析表明仅得知防御方模型是否设防有时就足以损害其安全，说明 AI 系统的透明性可能与安全相悖，博弈论推理可用于揭示透明与安全之间的这类冲突。