RoboJailBench：具身机器人智能体的对抗攻击与防御基准评测
RoboJailBench: Benchmarking Adversarial Attacks and Defenses in Embodied Robotic Agents
AI 导读
研究者提出 RoboJailBench，用于标准化评测具身机器人智能体上的越狱攻击与防御。该基准包含一套依据 ISO 标准、监管规则和已记录事件建立的安全分类体系，归纳出 18 类具身 AI 安全违规后果；其意图对比数据流程为现有数据补充成对的对抗目标与良性目标，以同时衡量安全性和遵循良性指令的能力。研究团队据此构建了分类均衡的新数据集并扩充五个现有数据集，集成四种攻击和两种防御，在领先的具身 VLM 上评估，并发布代码、数据集和排行榜。