SPQR:文生图模型良性适配下安全对齐的多维基准
SPQR: A Multi-Dimensional Benchmark for Safety Alignment under Benign Model Adaptation
AI 导读
研究者提出 SPQR 基准,评估文生图扩散模型的安全对齐在部署后良性微调(如 LoRA 个性化、风格与领域适配器)下能否保持。作者观察到现有安全方法在良性微调下频繁失效。SPQR 涵盖 Safety、Prompt adherence、Quality 与 Robustness 四个维度,以单一分数提供统一、可复现的评估框架和排行榜分数,便于不同方法间比较。基准还包含多语言、特定领域与分布外分析及分类别拆解,用于定位安全对齐在良性微调后何时失效。