跳到正文
原文

FreezeVLA:针对视觉-语言-动作模型的动作冻结攻击

FreezeVLA: Action-Freezing Attacks against Vision-Language-Action Models

arXiv· arXiv:2509.19870· Xin Wang, Jie Li, Zejia Weng, Yixu Wang, Yifeng Gao, Tianyu Pang, Chao Du, Yan Teng, Yingchun Wang, Zuxuan Wu, Xingjun Ma, Yu-Gang Jiang·本站收录· 23 天前· 原文发表攻击
AI 导读

研究者提出针对视觉-语言-动作(VLA)模型的 FreezeVLA 攻击框架,对抗图像可使 VLA 模型“冻结”并忽略后续指令,在三个最先进 VLA 模型和四个机器人基准上取得平均 76.2% 的攻击成功率,显著优于现有方法。该框架通过 min-max 双层优化生成并评估动作冻结攻击,生成的对抗图像具有较强迁移性,单张图像即可在多种语言提示下稳定令模型瘫痪。作者指出,这类攻击会使机器人的“数字大脑”与物理动作脱节,可能在关键干预时导致不作为,凸显了对鲁棒防御机制的迫切需求。

相关热点

1 个事件 · 1 条新闻提到

提到这篇论文的新闻

VicOne测试:被操纵输入可改变机器人行为

阅读原文arxiv.org