当理解成为风险：新兴图像生成范式 MLLM 的真实性与安全风险
When Understanding Becomes a Risk: Authenticity and Safety Risks in the Emerging Image Generation Paradigm
AI 导读
论文系统比较了多模态大语言模型（MLLM）与扩散模型在图像生成中的安全风险，覆盖不安全内容生成与假图合成两个维度。在多个不安全生成基准数据集上，MLLM 倾向于生成比扩散模型更多的不安全图像，部分原因是扩散模型难以理解抽象提示词而输出损坏图像，MLLM 则能理解这些提示词并生成不安全内容。现有先进假图检测器也更难识别 MLLM 生成的图像，即使用 MLLM 专属数据重新训练检测器，仍可通过让 MLLM 接收更长、更具描述性的输入来绕过。论文认为这一新兴生成范式的安全风险尚未被充分认识，对现实世界安全构成新挑战。