TEAR：针对文生视频模型的时间感知自动化红队测试框架
TEAR: Temporal-aware Automated Red-teaming for Text-to-Video Models
AI 导读
研究者提出 TEAR，一个针对文生视频（T2V）模型时间动态安全风险的自动化红队测试框架，以弥补现有评估方法聚焦静态图像与文本生成的不足。该框架通过两阶段优化（初始生成器训练与时间感知在线偏好学习）训练时间感知测试生成器，构造文本上无害的提示词，利用时间动态诱使模型生成违反政策的视频，并由精炼模型循环提升提示词的隐蔽性与对抗效果。实验显示，TEAR 在开源与商业 T2V 系统上的攻击成功率超过 80%，显著高于此前最佳的 57%。