论文探讨机器人视觉-语言-动作模型的对抗脆弱性
[Daily Paper] Exploring the Adversarial Vulnerabilities of Vision-Language-Action Models in Robotics
AI 导读
一篇论文系统评估了机器人视觉-语言-动作（VLA）模型的对抗攻击面，发现置于机器人视野内的小型对抗补丁可严重破坏任务执行。在数字仿真中，对抗补丁在基准机器人操作任务上的攻击成功率达 85.9%，迁移到真实机器人实验后仍高于 43%；最强攻击下任务成功率最多下降 100%。作者指出 VLA 把视觉感知、语言理解与动作规划融为一条流水线，视觉扰动会沿动作序列累积放大，且同一物理攻击在不同语言指令下后果差异很大。论文呼吁针对 VLA 架构设计语义过滤、动作序列约束检查与运行时轨迹监控等防御，并建议部署方把物理访问控制、相机视野监控与对抗鲁棒性测试列为基线要求。