重新审视量化深度神经网络中的隐私风险
Revisiting Privacy Risks in Quantized Deep Neural Networks
AI 导读
研究者对量化深度神经网络的隐私风险开展了系统性实证研究，在六种代表性量化方法上评测了八种最先进的成员推断攻击（MIA）。结果显示，实用的 4-8 比特量化对成员隐私风险影响有限，量化模型与全精度模型同样容易受到成员推断攻击；2 比特等激进低比特量化虽能带来可观的隐私收益，但代价是显著的效用下降。研究还系统分析了不同量化策略如何改变模型行为与输出、进而影响隐私脆弱性，并发现为全精度模型设计的现有隐私防御用于量化模型时只能提供有限的额外保护，还会进一步加剧效用下降。论文代码与数据集已在 GitHub 开源（https://github.com/JeffffffFu/Priv-QDNN）。