FreezeVLA:针对视觉-语言-动作模型的动作冻结攻击
[Daily Paper] FreezeVLA: Action-Freezing Attacks against Vision-Language-Action Models
AI 导读
论文提出 FreezeVLA,用单张对抗图像使视觉-语言-动作(VLA)模型忽略后续指令、停止动作,形成针对具身自主性的拒绝服务攻击。该方法用双层优化直接压缩动作预测分布,在 RT-2、Octo 和 OpenVLA 三种架构、四种机器人环境上平均攻击成功率 76.2%,其中 Octo 桌面操作 82.1%、RT-2 桌面操作 78.4%、OpenVLA 多物体场景 73.0%、RT-2 厨房任务 71.3%。单张优化图像可跨语言指令迁移,攻击者无需预知机器人当前任务。论文未提出防御,作者将其视为较根本的漏洞;Failure-First 建议监控动作分布熵并采用多帧一致性机制。