PolicyShiftGuard:政策自适应图像护栏的基准测试与改进
PolicyShiftGuard: Benchmarking and Improving Policy-Adaptive Image Guardrails
AI 导读
研究者提出政策自适应图像护栏任务,发布基准 PolicyShiftBench 和护栏模型 PolicyShiftGuard。该基准包含 265 张图像上的 2,000 个政策判别实例,每张图像平均配 7.55 个政策条件提示,检验模型是否跟随当前政策而非依赖图像级安全先验。实验显示现有 VLM 和专用护栏在政策切换下仍然脆弱;PolicyShiftGuard 采用随机化政策 SFT(RP-SFT)与边界对政策适配(BP-Adapt)两阶段训练,用成对比较损失区分拦截与放行政策,作者称其 7B 模型在 PolicyShiftBench 上达到 SOTA 的 76.9 平均 F1 和 72.1 平均 PSS,并能较好迁移到 UnSafeBench 和 SafeEditBench,消融确认匹配的放行/拦截边界对是稳定政策适配的关键。