BadRobot: Jailbreaking Embodied LLM Agents in the Physical World

BadRobot 研究系统考察了通过语音自然语言攻击越狱具身 LLM 智能体的方法，论文称这是首个针对具身 LLM 智能体的语音越狱系统研究。论文指出，文本越狱只产生有害输出，具身越狱则让机器人执行有害物理动作，造成不可逆的现实伤害。研究还发现，机器人借助 LLM 判断世界知识（如某物质是否危险）时，越狱可污染其事实检索，导致安全关键的错误分类；给机器人赋予始终服从的“有帮助助手”人格，可绕过写在系统提示中的安全约束。该研究是 Failure-First unsafe_action_elicitation 指标类别的基础，其语音攻击面直接对应 PiCar-X 的自然语言接口。