跳到正文
原文

以梯度提议,以损失接受:一种面向像素稀疏鲁棒性的对冲攻击

Propose with the Gradient, Accept with the Loss: One Hedged Attack for Pixel-Sparse Robustness

arXiv:其他 AI 安全论文· arXiv:2611.22596· Hon Ming Yan, Chun Pong Lau·本站收录· 2 天前· 原文发表日期未标攻击· 扫描记录里的位置 →
AI 导读

Hon Ming Yan 与 Chun Pong Lau 提出像素稀疏对抗攻击 GRS(Gradient-guided Random Search),在 13 个 CIFAR-10 配置和 5 个 ImageNet 模型上匹配或超过稀疏 AutoAttack(sAA)的最佳单成员。该场景中攻击者可把图像中少数像素改为任意值;论文将现有 sPGD 与 Sparse-RS 统一为提议分布加接受规则的局部搜索,由泰勒界和搜索状态处的测量导出五条规则,例如以梯度符号设定新像素取值、接受仅由损失决定。GRS 只需运行一次,每步一次前向和一次反向传播,使用 3 而非至多 7 个前向单元,在 18 个设置中的 17 个上与 sAA 相差一个点以内或更强,其中 8 个显著更强,在 CIFAR-10 上比全量运行的 sAA 成员快 3.7 至 5.0 倍。

阅读原文arxiv.org