FERRET：基于扩展的多模态自动化红队测试框架

FERRET 是一个多模态自动化红队测试框架，通过生成对抗性对话来攻破目标模型。该框架包含三种扩展机制：横向扩展让红队模型自我改进并生成更有效的对话开场白，纵向扩展将这些开场白发展为多模态对抗对话，元扩展则在对话过程中发现更有效的多模态攻击策略。实验表明 FERRET 在生成多模态对抗对话方面优于现有最先进方法。