AttackVLA：面向视觉-语言-动作模型的对抗与后门攻击基准测试
[Daily Paper] AttackVLA: Benchmarking Adversarial and Backdoor Attacks on Vision-Language-Action Models
AI 导读
AttackVLA 提出一套跨 VLA 架构的统一攻击评测框架，并引入定向后门攻击 BackdoorVLA。该框架覆盖数据构建、模型训练与推理三个阶段，同时评测推理阶段的对抗攻击与训练阶段的后门攻击，以解决不同 VLA 架构因动作分词器不同而难以复现和比较攻击的问题。BackdoorVLA 在触发后可让模型执行攻击者指定的多步动作序列，在测试任务上平均定向成功率为 58.4%，部分单项任务达 100%，在仿真与真实机器人环境中均有效。论文称，此前 VLA 后门研究多只能诱发单个错误动作，该工作是较早实证此类定向攻击在当前架构上可达到有意义成功率的工作之一。