Multi2AV-Safety：首个覆盖 11 种多模态条件组合的音视频生成安全基准

研究者提出 Multi2AV-Safety，一个面向音视频生成的安全基准，覆盖文本、图像、音频、视频四类模态的全部 11 种非单一条件组合，共包含 11024 个攻击实例。作者指出，随着音视频生成从提示词驱动转向多模态条件驱动，有害意图可能不再存在于任何单一输入中，而是由多个本身无害或弱有害的条件跨模态、跨时间交互产生，现有基准多局限于提示词或固定条件接口，难以系统研究这类组合风险。在 Multi2AV-Safety 上的评测显示，代表性多模态安全护栏在不同攻击机制和有害证据结构下存在系统性弱点，表现为两类互补的失效模式：单独无害的输入组合后可产生有害语义，而显式有害线索混入良性多模态上下文后更难被检测。