对比隐私:度量 AI 脱敏隐私性的语义方法
Contrastive Privacy: A Semantic Approach to Measuring Privacy of AI-based Sanitization
AI 导读
论文提出对比隐私(contrastive privacy),把 AI 图像与文本脱敏的隐私评估形式化为可量化的语义检验:用 CLIP 等语义距离模型比较待审计脱敏结果与参照数据脱敏前后的版本,若更接近未脱敏参照则可能仍泄露隐私,且无需枚举具体隐私属性或逐条真值标注。作者在 Enron 邮件上评估 34 种图像脱敏配置、15 个社交媒体文本模型、1 个实体识别器和 4 款现成 PII 脱敏工具,所有设置均检出残留语义关联,四款 PII 工具即使删除其检测器返回的全部候选也不例外。补充研究显示,对合成身份微调可发现基础模型漏掉的关联,更广泛脱敏后改编的检验未再检出;在 94 组为隐藏 Leonardo DiCaprio 身份而脱敏的匹配图像集上,三个模型的评估大体相关但有时对哪种脱敏更私密判断不一,作者据此建议结合多个模型使用。