跳到正文
原文
Hugging Face Daily Papers· arXiv:2610.05870·本站收录 · 原文发表 精选关注度32

MBZUAI 提出可校准的真实图像认证方法,20 个深伪检测器在对抗扰动下全部跌破 2% 准确率

Certification of Real Images through Calibrated Content Authentication

AI 导读

MBZUAI 团队提出一种基于重建保真度的可校准认证方法,只在没有任何已知生成器能忠实重建样本时才将其认证为真实,否则弃权并给出重建证据。研究评估了 20 个深伪检测器对 10 个生成器的表现,最佳准确率从 2022 年生成器上的 99.5% 降至 2026 年生成器上的 76%;在 ϵ=8/255 的 ℓ∞ 有界扰动下,20 个检测器全部跌破 2% 准确率,最强的 D3 也只剩 1.75%。该方法在 1% 误报率下校准安全阈值与更严格的安全(security)阈值,SD3 Medium 的阈值从 0.0365 提升到 0.038 后仍保持该上界;best-of-100 攻击加 PGD 只把候选分数从 0.0148 提到 0.0154,24 种语义变换中 23 种低于安全阈值。

深度解读生成中

推荐理由

论文给出可复现的校准流程与开源代码,并量化了生成器迭代对事后可验证内容的侵蚀速度。

阅读原文huggingface.co