OpenRT：面向多模态大语言模型的开源红队框架
[Daily Paper] OpenRT: An Open-Source Red Teaming Framework for Multimodal Large Language Models
AI 导读
Failure-First 的每日论文栏目介绍了 OpenRT，一个面向多模态大语言模型的开源红队框架。该框架把攻击原语（kernel）与攻击策略分离，使不同攻击可以混搭组合，无需为每个模型重新实现。它支持多智能体演化攻击，用失败的尝试指导后续提示词的变异，以提升相对静态基线的攻击成功率。框架还统一了 ASR 指标的定义，以解决跨论文比较不可靠的问题。文中认为其多模态范围与视觉-语言-动作模型相关，跨模态攻击（对抗图像补丁结合文本误导）是研究不足但高风险的失效模式。