Skip to content

Translation in progress Some entries still include text in the original language.

Failure-First·Indexed by this site · Originally published

VLAGuard:评估与缓解无线传感器网络中 VLA 机器人物理注意力劫持的框架

[Daily Paper] VLAGuard: A Framework for Evaluating and Mitigating Physical Attention Hijacking in Vision-Language-Action Robots within Wireless Sensor Networks

AI summary

Yin 等人提出 VLAGuard 框架,包含红队攻击 VASA 与防御 APFT,用于评估并缓解 VLA 机器人的物理注意力劫持。VASA 在机器人工作区放置可打印对抗补丁,利用交叉注意力 Softmax 的零和特性把动作查询的注意力从目标物体和夹爪上夺走,使误差在闭环控制中逐步累积。APFT 采用教师-学生微调,仅更新视觉编码器,通过特征锚定、策略关键注意力蒸馏、语言引导几何一致性和时序注意力一致性四项损失恢复注意力分配,不增加推理延迟。在 LIBERO 仿真中,未防御的 OpenVLA 策略失败率为 100.0%,全局对齐基线 EDPA-AF 为 58.4%,APFT 降至 25.9%;在 PiPER 桌面真机 2000 次试验中,成功率从 23.0% 提升到 67.4%。

Read originalfailurefirst.org