通过混合随机平滑实现异构扰动下的认证鲁棒性
Certified Robustness under Heterogeneous Perturbations via Hybrid Randomized Smoothing
AI 导读
研究者提出混合随机平滑框架，为多模态模型的离散文本与连续图像联合扰动提供认证鲁棒性。现有随机平滑证书只覆盖单一模态，难以应对攻击者同时扰动多种输入的场景。新框架基于 Neyman-Pearson 联合最坏情形建模，通过分析分解的离散与连续噪声诱导的联合似然排序，得到闭式一维证书，严格推广了仅图像的高斯平滑与仅文本的离散平滑。作者称已在依赖交互的文本图像安全过滤上验证该框架，并称这是首个面向离散 token 与连续图像联合扰动的模型无关 Neyman-Pearson 证书。