并非偶然：利用人形机器人安全滤波器的缺陷

研究者提出针对人形机器人的目标插入攻击，并开发自动化工具 SIREN，显示现有安全滤波器（safety filter）本身可能成为安全风险来源。安全滤波器通过数学保证控制动作不会导致碰撞，但该保证只在安全参数配置正确时成立，而正确配置因任务和环境而异，目前没有通用方法确定，人形机器人出厂自带的安全滤波器可能在部署后于特定场景失效。攻击者只需普通用户交互、无需额外权限即可利用这些失效。实验中，SIREN 在 SPARK 数据集的所有易受攻击场景中均识别出攻击，发现的攻击数量是基线方法的三倍，并在真实人形机器人执行任务时使其发生碰撞。