RedVLA：面向 VLA 模型的物理安全红队测试

研究者提出 RedVLA，称其为首个针对视觉-语言-动作（VLA）模型物理安全的红队测试框架，用于在部署前主动发现可能造成不可逆物理伤害的不安全行为。框架分两阶段：风险场景合成从良性轨迹中识别关键交互区域并放置风险因素，使其与模型执行流程纠缠以诱发目标不安全行为；风险放大再通过轨迹特征引导的无梯度优化迭代调整风险因素状态，在异构模型上稳定触发。在六个代表性 VLA 模型上的实验显示，RedVLA 可诱发多样不安全行为，10 轮优化内攻击成功率最高达 95.5%。作者还提出用 RedVLA 生成数据构建的轻量安全防护 SimpleVLA-Guard，数据、资产与代码已在项目网站 redvla.github.io 开源。