MBZUAI 提出可校准的真实图像认证方法,20 个深伪检测器在对抗扰动下全部跌破 2% 准确率
Certification of Real Images through Calibrated Content Authentication
AI 导读
MBZUAI 团队提出一种基于重建保真度的可校准认证方法,只在没有任何已知生成器能忠实重建样本时才将其认证为真实,否则弃权并给出重建证据。研究评估了 20 个深伪检测器对 10 个生成器的表现,最佳准确率从 2022 年生成器上的 99.5% 降至 2026 年生成器上的 76%;在 ϵ=8/255 的 ℓ∞ 有界扰动下,20 个检测器全部跌破 2% 准确率,最强的 D3 也只剩 1.75%。该方法在 1% 误报率下校准安全阈值与更严格的安全(security)阈值,SD3 Medium 的阈值从 0.0365 提升到 0.038 后仍保持该上界;best-of-100 攻击加 PGD 只把候选分数从 0.0148 提到 0.0154,24 种语义变换中 23 种低于安全阈值。
推荐理由
论文给出可复现的校准流程与开源代码,并量化了生成器迭代对事后可验证内容的侵蚀速度。