上海交大在ACL 2025提出基于行动者网络理论的多轮越狱攻击方法ActorBreaker

上海交通大学团队在ACL 2025论文中提出多轮越狱攻击方法ActorBreaker，基于拉图尔行动者网络理论生成与有害目标语义相关但表面无害的提示，绕过对齐大语言模型的安全机制。该方法先构建包含创作、执行、分发等六类行动者的攻击线索网络，再经攻击链推断和自我对话生成多轮查询，并按受害者模型响应动态修改攻击路径。在HarmBench对GPT-4o、GPT-o1、Claude-3.5、Llama-3等六种模型的评测中，平均攻击成功率为77.7%，高于CoA的18.3%和Crescendo的45.0%；对GPT-o1的攻击成功率达60.0%，并观察到其思维链先表明安全立场、后列出执行步骤，引发对思维链忠实性的担忧。团队还用该方法构建了1680个多轮安全提示数据集，在其上训练的Circuit Breaker对多轮攻击更鲁棒，但安全微调会降低模型有用性。