GuardPaint:面向文生图生成的推测性安全解码
GuardPaint:SpeculativeSafetyDecodingforText-to-ImageGeneration
AI 导读
研究者提出文生图安全解码框架 GuardPaint,在不修改基础模型的情况下于扩散轨迹内部实施防护。现有防护多在生成前过滤提示词或在生成后分类图像,扩散过程本身缺乏防护,且往往只能拒答而非安全修复。GuardPaint 由轻量级审计器监控中间图像、定位不安全区域,仅在需要处触发针对性的 inpainting 修复;候选修复由与策略对齐的 inpainter 生成,经带护栏的锦标赛筛选,只有同时提升策略合规性并保留提示词忠实度与感知质量的编辑才被接受。在 SneakPrompt、MMA、PGJ、DACA、RABell 五类越狱攻击和 SD 1.5、SDXL、SD 3.5、FLUX.1-dev 等 UNet 与流匹配模型上,GuardPaint 降低了攻击成功率和有害生成,图像质量、提示词忠实度与正常行为仅轻微下降。