跳到正文
原文

RECLAIM:借助具身注意力反馈、由机器人视觉信息引导的对抗补丁防御

RECLAIM: Robot-Vision-Informed Adversarial Patch Defense via Embodied Attention Feedback

arXiv:其他 AI 安全论文· arXiv:2611.24494· Jiayou Zhu, Peng Guo, Litian Zhang, Xinze Shi, Yuting Zhang, Zelong Yu, Yize Tian, Jirong Liu, Zifeng Kang·本站收录· 13 小时前· 原文发表防御· 扫描记录里的位置 →
AI 导读

研究者提出免训练、推理时生效的防御方法 RECLAIM,利用冻结的视觉-语言-动作(VLA)策略自身对局部视觉干预的注意力响应,在闭环具身操作中引导净化,抵御会破坏动作预测的对抗补丁。此类补丁会改变后续观测;区别于依赖策略适配或辅助模型、需额外训练或推理的现有防御,RECLAIM 将局部编辑引起的注意力变化作为反馈,结合机器人几何信息细化补丁定位并选择局部处理方式,并随智能体动作改变观测场景而重新验证。在冻结 VLA 控制下的多个操作任务套件中,该方法对抗四种攻击方法生成的补丁,在 95% 的评估任务上至少一次 rollout 成功,将 LIBERO-Object 的 rollout 成功率从无防御时的 0% 提升至 70.0%,每个控制步平均决策时间仅 548.9 毫秒。

阅读原文arxiv.org