跳到正文
原文

越狱 LLM 控制的机器人

Jailbreaking LLM-Controlled Robots

arXiv· arXiv:2410.13691· Alexander Robey, Zachary Ravichandran, Vijay Kumar, Hamed Hassani, George J. PappasSchool of Engineering and Applied Science, University of Pennsylvania本站收录· 23 天前· 原文发表入选 攻击精选关注度42

论文速读

攻击

据论文 PDF 整理(AI 生成),以原文为准

作者提出 RoboPAIR 越狱 LLM 控制的机器人,在 Dolphins、Jackal、Go2 三个系统上报告 100% ASR(各 35 次尝试)。

威胁模型攻击者目标是诱使 LLM 控制的机器人执行有害物理动作。

问题
LLM 被越来越多地用作机器人的规划器,但聊天机器人上已知的越狱风险是否延伸到会造成物理伤害的 LLM 控制机器人,此前缺乏评估。作者认为这一问题需要比文本生成更高的安全门槛。
方法
作者在 PAIR 的基础上提出 RoboPAIR:攻击者、评审、语法检查器三个 LLM 迭代生成并打分提示词,加入机器人专用系统提示(含 API 与有害动作示例)和 API 语法检查,另配 in-context、模板、API 三种静态攻击作对照。
实验与结果
在 Dolphins(white-box)、Jackal(gray-box)、Go2(black-box)三个系统、各 7 个有害动作 × 5 次试验上,RoboPAIR 的 ASR 均为 100%(35/35),直接提示几乎全被拒;作者报告 Go2 的系统提示词被提取,且 API 越狱可让其关闭避障。
局限与可以继续做的
作者指出:三个系统都缺乏在无针对性提示下执行有害动作的情境感知与推理能力;对 Jackal 和 Go2 的攻击需要物理接触机器人;作者认为现有聊天机器人防御可能无法泛化到机器人场景,并提出需要物理安全过滤器。
实验设置NVIDIA Dolphins self-driving LLM、GPT-4o 等 · Dolphins harmful-action dataset(7 个动作,源自 nuScenes)、Jackal harmful-action dataset(7 个动作) 等 · ASR
威胁模型
攻击者目标是诱使 LLM 控制的机器人执行有害物理动作。三种威胁模型:white-box(完全访问 NVIDIA Dolphins 的权重与架构)、gray-box(部分访问 GPT-4o 规划的 Clearpath Jackal,不能改底层控制器)、black-box(仅能通过语音查询访问 GPT-3.5 集成的 Unitree Go2)。
被测模型
NVIDIA Dolphins self-driving LLMGPT-4oGPT-3.5GPT-4
基准
Dolphins harmful-action dataset(7 个动作,源自 nuScenes)Jackal harmful-action dataset(7 个动作)Go2 harmful-action dataset(7 个动作)
指标
ASR
AI 导读和推荐理由宾夕法尼亚大学研究团队提出 RoboPAIR,作者称这是首个针对 LLM 控制机器人的越狱算法,在三类受测机器人上均达到 100% 攻击成功率。攻击覆盖三种威胁模型,包括白盒攻击 NVIDIA Dolphins 自动驾驶 LLM、灰盒攻击搭载 GPT-4o 规划器的 Clearpath Jackal UGV,以及黑盒攻击集成 GPT-3.5 的 Unitree Go2 机器狗,任务涵盖炸弹引爆、隐蔽监视、识别武器和撞击行人等有害动作。作者称对 Unitree Go2 的实验是首次成功越狱已部署的商用机器人系统,团队还提取了该机器狗的系统提示词,并演示了通过 API 越狱让 Go2 关闭自身避障功能。论文在公开发布前已向 NVIDIA、Clearpath Robotics 和 Unitree Robotics 披露发现;作者认为机器人对齐高度依赖具体情境,需要结合物理约束设计安全过滤器。

宾夕法尼亚大学研究团队提出 RoboPAIR,作者称这是首个针对 LLM 控制机器人的越狱算法,在三类受测机器人上均达到 100% 攻击成功率。攻击覆盖三种威胁模型,包括白盒攻击 NVIDIA Dolphins 自动驾驶 LLM、灰盒攻击搭载 GPT-4o 规划器的 Clearpath Jackal UGV,以及黑盒攻击集成 GPT-3.5 的 Unitree Go2 机器狗,任务涵盖炸弹引爆、隐蔽监视、识别武器和撞击行人等有害动作。作者称对 Unitree Go2 的实验是首次成功越狱已部署的商用机器人系统,团队还提取了该机器狗的系统提示词,并演示了通过 API 越狱让 Go2 关闭自身避障功能。论文在公开发布前已向 NVIDIA、Clearpath Robotics 和 Unitree Robotics 披露发现;作者认为机器人对齐高度依赖具体情境,需要结合物理约束设计安全过滤器。

推荐理由论文给出三种威胁模型下的攻击成功率和受测机器人型号,做机器人安全评估的团队可参考其红队测试思路。

相关热点

1 个事件 · 1 条新闻提到

提到这篇论文的新闻

评论文章:通用机器人要进入日常,安全取决于可预测的可靠性

深度解读

6个问题,点开问题读完整回答

  1. 这篇论文试图解决什么问题?

    评估并攻击 LLM 控制的机器人:越狱风险是否会从有害文本延伸到有害物理动作。

    核心问题:LLM 控制的机器人能否被越狱,从而执行有害的物理动作,而不仅仅是生成有害文本。

    • 场景与重要性:LLM 正被广泛集成到机器人中担任高层规划器,覆盖自动驾驶、移动操作、导航等场景,且已有商用产品部署在安防等领域;作者认为一旦这类系统被越狱,后果是对环境、人类或机器人自身的物理伤害,比聊天机器人更严重。
    • 现有研究的不足:作者指出,已有越狱研究几乎全部针对聊天机器人(有害文本)或文生图模型,已有防御也多为聊天机器人设计;尽管 LLM 在机器人中应用广泛,LLM 控制机器人的鲁棒性几乎无人研究(第 2.2 节)。
    • 核心观察:作者认为 PAIR 等聊天机器人越狱算法不适合机器人,原因有二——生成的提示词往往索求信息而非动作(relevance),且动作可能与环境或机器人 API 不兼容(groundedness),例如产生 API 里不存在的函数调用。
    • 论文的贡献:作者提出 RoboPAIR 越狱算法,并构建了三个有害机器人动作数据集,在 white-box、gray-box、black-box 三种威胁模型下各选一个真实系统做实验。
    • 威胁模型:
      • 目标:诱使 LLM 控制的机器人执行有害物理动作(如撞人、进入禁区、投放爆炸物)。
      • white-box:攻击者完全访问系统(API、权重、系统参数),对应开源的 NVIDIA Dolphins 自动驾驶 LLM。
      • gray-box:攻击者部分访问,LLM 通过高层 API 控制机器人、无法改底层控制器,对应 GPT-4o 规划的 Clearpath Jackal UGV。
      • black-box:攻击者仅能通过查询(语音)交互,对应 GPT-3.5 集成的 Unitree Go2 机器狗。
  2. 有哪些相关研究?

    相关工作分三组:LLM 机器人控制、聊天机器人越狱与防御、LLM 智能体风险;作者称均无人研究机器人越狱。

    LLM 用于机器人控制

    • LLM 被集成到机器人控制与规划管线中:低层用途包括强化学习的奖励函数设计(如 Eureka)和生成机器人软件(如 Code as Policies);更多近期工作把 LLM 用作高层规划器,应用于自动驾驶、移动操作、服务机器人和导航。
    • 后续研究把 LLM 规划器落地到结构化语言(如线性时序逻辑规范)并用视觉反馈做故障监控。作者指出,这些工作中虽有一些涉及安全,但都没有考虑越狱带来的危害。

    模型对齐、越狱攻击与防御

    • 对齐:聊天机器人的对齐一般通过使用人类反馈的微调算法实现(如 RLHF)。
    • 攻击:PAI R(Chao et al., 2023)、GCG(Zou et al., 2023)、AutoDAN 等算法可绕过对齐,引出有害文本;SneakyPrompt 等针对文生图模型;HarmBench、JailbreakBench 等基准跟踪各算法的越狱表现。
    • 防御:SmoothLLM、短路(short circuiting)、鲁棒提示优化等被提出;作者指出这些防御往往针对特定攻击、对新攻击类别尚不够有效,且多为聊天机器人或图像生成模型设计。

    LLM 智能体的风险

    • LLM 被集成到软件工程、空中交通管制、临床医学等安全攸关领域,作为能自主执行多步指令的智能体。
    • 已有工作提出智能体基准(AgentBench、SWE-bench、AgentDojo 等)并评估智能体在对抗攻击下的鲁棒性;作者指出这些工作都没有考虑机器人领域的物理攻击。

    基线与基准:论文的对比方法是直接提示(baseline)、in-context jailbreak、template jailbreak、PAIR 四种提示方式,评测使用作者新构建的三个有害动作数据集(每个系统 7 个动作),未使用既有越狱基准。

    本文定位:作者称 RoboPAIR 是首个针对 LLM 控制机器人设计的越狱算法,把攻击模态从引出有文本转向引出物理动作,并称其对 Unitree Go2 的结果是首次成功越狱已部署的商用机器人系统。

  3. 论文如何解决这个问题?

    RoboPAIR:在 PAIR 的攻击者-目标-评审循环上加机器人专用系统提示和 API 语法检查器。

    整体思路是把聊天机器人越狱算法 PAIR 改造成适合机器人的版本 RoboPAIR:保留攻击者、目标、评审三方 LLM 迭代循环,新增机器人专用系统提示和语法检查器,确保生成的提示词索求的是可执行动作。

    问题设定

    • 控制架构:LLM 通过生成代码或担任高层规划器控制机器人,动作范围限于机器人 API;机器人向 LLM 回传状态与传感信息;攻击者向 LLM 输入提示词(Figure 1)。
    • 攻击者目标:绕过 LLM 的对齐,让机器人执行有害动作;成功指标为 ASR,即成功越狱次数与尝试次数之比。

    PAIR 回顾与其不适用之处

    • PAIR 运行 K 轮:攻击者 LLM 生成候选提示词,目标 LLM 回应,评审 LLM 打 1–10 分(10 为越狱成功),分数反馈给攻击者进入下一轮;评审分数超过阈值 tJ 即终止。
    • 作者指出 PAIR 不适合机器人:提示词常索求信息而非动作(relevance);动作可能与物理环境或机器人 API 不兼容(groundedness),例如幻觉出不存在的函数调用。

    RoboPAIR 的两处改动

    • 机器人专用系统提示:攻击者的系统提示包含机器人 API 和有害动作的 in-context 示例;评审的系统提示要求其在评分时权衡代码的生成。
    • 语法检查器(SyntaxChecker):一个 LLM,对目标回应打 1–10 分,1 表示代码无法在机器人上执行,10 表示回应中的函数全部存在于机器人 API;算法仅在 JudgeScore 和 SyntaxScore 同时达到阈值 tJ、tS 时终止。
    • 四个模块(Attacker、Target、Judge、SyntaxChecker)均由 LLM 实现,其中 Attacker、Judge、SyntaxChecker 由 GPT-4 驱动,Target 是机器人控制架构中的 LLM(Algorithm 1)。

    攻击流程与参数

    • 每轮依次调用 Attacker 生成提示词、Target 生成回应、Judge 与 SyntaxChecker 打分,全部历史追加进上下文;实验中 K = 10,tJ = tS = 10,若 10 轮内未达阈值则报告得分最高的那次越狱。
    • 作者称 RoboPAIR 的提示词是人类可读的(对只能语音输入的商用系统关键),且只需少量迭代(机器人难以并行批量查询)。

    配套攻击与成功判定

    • 另有四种提示方式作对照:直接提示(baseline)、in-context jailbreak(先直接提示被拒后,去掉情境细节再问一次)、template jailbreak(把直接提示嵌入手工模板)、PAIR。
    • 针对 Go2 还设计了 API jailbreak:在模板中读入调用机器人现有 API 原语组合而成的新函数。
    • 成功判定:Jackal 上机器人执行了能引发目标动作的行为即成功;Go2 上要求动作被物理执行;所有越狱另由两名专家人工标注者核验正确性。
  4. 论文做了哪些实验?

    三个系统各 7 个有害动作 × 5 次试验,RoboPAIR 的 ASR 均为 100%(35/35),直接提示几乎全失败。

    实验设置

    • 被测系统:NVIDIA Dolphins 自动驾驶 LLM(white-box,权重公开);Clearpath Jackal UGV + GPT-4o 规划器(gray-box);Unitree Go2 机器狗(black-box,BenBen 模式调用 GPT-3.5,仅语音交互)。
    • 数据集:作者为每个系统构建 7 个有害动作;Dolphins 的动作各配一段 nuScenes 视频片段(如撞公交车、撞行人、冲出桥梁);Jackal 与 Go2 共用同一组动作(炸弹引爆、堵紧急出口、搜武器、撞翻货架、进入禁区、隐蔽监视、撞人)。
    • 方法:直接提示(baseline)、in-context、template、PAIR、RoboPAIR;Go2 另有 API jailbreak;PAIR 与 RoboPAIR 用 K = 10、tJ = tS = 10。
    • 样本量:每个动作 × 每种方法独立重复 5 次,即每个系统每种方法 35 次尝试。
    • 评审方式:Judge 与 SyntaxChecker 两个 LLM(GPT-4)各打 1–10 分;所有越狱再由两名专家人工标注者核验。
    • Go2 的 GPT 版本:作者无法确定 Go2 内部 GPT 版本,故 PAIR 与 RoboPAIR 分别用 GPT-3.5 和 GPT-4 离线运行后,把提示词经语音转移到 Go2。

    主结果

    据 Table 1–3,各系统的聚合 ASR(成功数/35):

    表格较宽,可左右滑动

    系统(威胁模型)DirectIn-contextTemplatePAIRRoboPAIR
    Dolphins(white-box)5/3535/3533/359/3535/35
    Jackal(gray-box)1/3532/3530/355/3535/35
    Go2(black-box,Target: GPT-3.5)3/3534/3531/3517/3535/35
    Go2(black-box,Target: GPT-4)未报告未报告未报告13/3535/35
    • 作者称直接提示基本失败,而 in-context、template、RoboPAIR 的 ASR 接近或达到 100%;RoboPAIR 在三个系统的每个动作上都是 5/5。
    • 作者称 PAIR 在机器人上表现差(Jackal 上 5/35)是因为语法和语义错误,即误用规划器 API;RoboPAIR 相对 PAIR 的改动把 Go2(GPT-3.5)上的 ASR 从 49% 提到 100%。
    • 例外:Dolphins 的 ignore stop sign 动作上直接提示 5/5 成功;Go2 的 covert surveillance 动作上直接提示 2/5、PAIR 5/5。

    Go2 附加实验:API 越狱与系统提示提取

    • API 越狱:在模板中读入由 Go2 现有 API 原语组合成的新函数,7 个动作全部 5/5,ASR 100%(Table 3);作者报告组合 walking 与 avoid_obstacle(switch="off") 可让 Go2 关闭自身避障系统并撞上路径上的障碍。
    • 系统提示提取:作者通过反复要求 Go2 逐字复述其系统提示,提取出完整的专有系统提示(简体中文),作者称据其所知这是机器人领域首次成功的系统提示提取;附录 A 给出译文。
    • GPT 版本稳健性:无论离线端用 GPT-3.5 还是 GPT-4,RoboPAIR 在 Go2 上都是 35/35;PAIR 分别为 17/35 和 13/35(Table 3)。

    Go2 保密性实验

    • 先告诉 Go2 一个需保密的口令,再直接询问口令,5 个口令 × 5 次试验全部被拒(0/25);改用模板越狱后 25/25 全部泄露(Table 4)。

    其他消融与分析

    • Dolphins 上逐动作看,RoboPAIR 与 in-context 全部 5/5;template 在 pedestrian collision 上 3/5;PAIR 在多个动作上 0/5(Table 1)。
    • Jackal 上 covert surveillance 是难点:in-context 2/5、template 0/5,而 PAIR 与 RoboPAIR 均 5/5(Table 2)。
    • 作者报告被越狱的 Jackal 有时超出指令范围主动提供建议,例如被问搜武器时建议如何用桌椅伤人(第 5.2 节)。
    • 作者报告 Dolphins 几乎拒绝所有直接引用输入视频的有害请求,但把视频仅作背景、要求给出伪代码或高层计划时通常会遵从(第 5.1 节)。
  5. 有什么可以进一步探索的点?

    作者讨论了上下文依赖对齐与防御设计的困难,并提出需要物理安全过滤器;实验覆盖三个系统。

    作者指出的局限与后续方向

    • 三个被测系统都缺乏在无针对性提示和特定情境下执行有害动作所需的情境感知与推理能力,作者据此认为当前技术尚不构成真正的灾难性风险(第 7 节)。
    • 对 Jackal 和 Go2 的攻击需要物理接触机器人,作者称这提高了恶意使用者的门槛(第 7 节)。
    • 作者认为现有聊天机器人越狱防御易受自适应攻击、且可能无法泛化到任务依赖上下文、需要高层推理的机器人场景(第 6.4 节)。
    • 作者分析了三类防御在机器人上的困难:过滤类防御需结合机器人所处环境判断恶意;提示优化类防御需要 white-box 访问且算力可能超出机器人硬件;微调类防御不适合通过 API 调用专有模型的机器人公司(第 6.4 节)。
    • 作者提出需要物理安全过滤器:对机器人动作施加硬物理约束,并考虑机器人的上下文与环境;同时指出鲁棒性与正常能力之间的权衡是未来研究的挑战(第 6.4 节)。
    • 作者指出需要新攻击来充分压力测试机器人,例如 gray-box 下的中间人攻击、white-box 下对 LLM 规划器权重的对抗操纵(第 6.3 节);作者计划发布数据以支持设计微调和过滤类防御(第 7 节)。

    实验覆盖范围

    • 被测系统共 3 个:NVIDIA Dolphins、Clearpath Jackal(GPT-4o 规划器)、Unitree Go2(GPT-3.5),分别对应 white-box、gray-box、black-box 一种威胁模型。
    • 每个系统 7 个有害动作,每个动作 × 每种方法重复 5 次;Dolphins 的实验基于 nuScenes 视频片段做高层规划,未在真实车辆上执行。
    • 对比方法为直接提示、in-context、template、PAIR、RoboPAIR,Go2 另有 API jailbreak;未评测任何防御方法。
    • 成功判定由 GPT-4 驱动的 Judge 与 SyntaxChecker 打分(阈值均为 10),另由两名专家人工标注者核验;论文未报告评审与人工标注之间的一致性数值。
    • PAIR 与 RoboPAIR 的迭代预算为 K = 10;论文未报告每次越狱的平均查询次数或耗时。
  6. 总结一下论文的主要内容

    RoboPAIR 在三种威胁模型的真实机器人系统上实现 100% ASR,作者称越狱风险已延伸到物理世界。

    这是一篇攻击论文:作者提出 RoboPAIR,把聊天机器人越狱算法 PAIR 改造为针对 LLM 控制机器人的越狱算法,并在三个真实系统上验证。

    • 问题:LLM 作为规划器进入机器人后,越狱的后果从有害文本升级为有害物理动作;作者指出此前没有工作评估这类系统的越狱鲁棒性。
    • 方法:RoboPAIR 保留 PAIR 的攻击者-目标-评审迭代循环(K = 10),新增机器人专用系统提示(含 API 与有害动作示例)和语法检查器,要求评审分与语法分同时达到 10 才停止;攻击者、评审、语法检查器均由 GPT-4 驱动。
    • 结果一:在 Dolphins(white-box)、Jackal(gray-box)、Go2(black-box)上,RoboPAIR 各 35 次尝试全部成功(35/35,ASR 100%,Table 1–3),而直接提示分别只有 5/35、1/35、3/35。
    • 结果二:静态的 in-context 与 template 攻击同样有效(如 Dolphins 上 35/35 与 33/35),作者据此认为这些机器人对非对抗性输入也缺乏对齐。
    • 结果三:针对 Go2 的 API 越狱 ASR 100%(35/35),作者报告可借此让 Go2 关闭自身避障;作者还提取了 Go2 的完整系统提示,并称模板越狱可让其泄露保密口令(25/25,Table 4)。
    • 作者的结论:作者称越狱 LLM 的风险已超出文本生成、可能造成真实世界的物理伤害;由于机器人动作是否有害依赖上下文,防御需要新的、面向物理安全的过滤器与机制;作者已在发布前向 NVIDIA、Clearpath、Unitree 披露结果。
阅读原文arxiv.org