UniNDM：面向文本到图像生成的统一噪声驱动色情内容检测与缓解框架
UniNDM: A Unified Noise-driven Detection and Mitigation Framework Against Sexual Content in Text-to-Image Generation
AI 导读
UniNDM 提出统一的噪声驱动框架，检测并缓解文本到图像扩散模型在隐式性暗示提示词下生成的不当内容。该框架利用扩散早期预测噪声在正常与色情内容间的可分性构建近乎零开销的轻量检测器，并用 LLM 动态生成上下文相关的负向提示、抑制对显式 token 的注意力集中，同时扩展至 DiT 架构。在 U-Net 与 DiT 模型的自然及对抗数据集上，其表现优于 SLD、UCE、Safree 等方法。