FreezeVLA:针对视觉-语言-动作模型的动作冻结攻击
FreezeVLA: Action-Freezing Attacks against Vision-Language-Action Models
AI 导读
研究者提出针对视觉-语言-动作(VLA)模型的 FreezeVLA 攻击框架,对抗图像可使 VLA 模型“冻结”并忽略后续指令,在三个最先进 VLA 模型和四个机器人基准上取得平均 76.2% 的攻击成功率,显著优于现有方法。该框架通过 min-max 双层优化生成并评估动作冻结攻击,生成的对抗图像具有较强迁移性,单张图像即可在多种语言提示下稳定令模型瘫痪。作者指出,这类攻击会使机器人的“数字大脑”与物理动作脱节,可能在关键干预时导致不作为,凸显了对鲁棒防御机制的迫切需求。
相关热点
1 个事件 · 1 条新闻提到
提到这篇论文的新闻
VicOne测试:被操纵输入可改变机器人行为
- IEEE Spectrum AI引用了论文编号或链接VicOne LAB R7:机器人安全功能有效,输入被操纵会怎样?
FreezeVLA found that an adversarial image could cause tested models to ignore later instructions.