跳到正文
原文
Failure-First·本站收录· 原文发表

具身主动防御 EAD:利用循环反馈抵御对抗补丁

[Daily Paper] Embodied Active Defense: Leveraging Recurrent Feedback to Counter Adversarial Patches

AI 导读

清华大学的一篇论文提出具身主动防御(EAD),让机器人通过主动移动视角来抵御物理对抗补丁。EAD 由循环感知模块和主动策略模块组成:前者用隐藏状态跨观测历史聚合证据,在被污染的视角出现时降低其权重;后者学习主动寻找能减少环境状态不确定性、并避开疑似被操纵区域的视角,两个模块用环境动态的可微近似端到端训练。作者在三维仿真环境的人脸识别与目标检测任务上评测,相比感知能力相同但不做主动控制的被动基线,攻击成功率明显下降,且防御不针对特定补丁攻击训练、可泛化到未见过的攻击策略;消融实验显示去掉时间记忆后防御性能大幅下降。作者指出实验限于受控仿真,扩展到真实 VLA 部署仍是开放挑战,循环防御还会带来延迟。

阅读原文failurefirst.org