每日论文：针对视觉-语言-动作模型的轨迹级重定向攻击

一篇论文提出针对视觉-语言-动作（VLA）模型的命令保持型轨迹重定向攻击，攻击者在回合开始前选定一个提示词，不改动模型权重与环境，提示词保持接近正常指令、不含目标词与纠正性措辞，却能让闭环轨迹漂移到攻击者指定的目标。作者用基于完整 rollout 的 on-policy 提示词搜索来寻找这类扰动，并在仿真和实体机器人上验证近乎无害的提示词扰动可以重定向 VLA 轨迹。文中指出，这类提示词按构造看起来无害，基于内容检查的护栏会放行，防御应转向轨迹级监控，比较闭环行为是否与表面指令一致。文中引用的合成摘要称在 SO-100 机械臂上、九个 VLA 模型族中有七个攻击成功率超过 90%，但该数字尚待与论文实验表核对。