事件历史事件
上海交大提出多轮越狱攻击框架ActorBreaker
先了解这件事
AI 综述
上海交通大学团队在ACL 2025论文中提出多轮越狱攻击方法ActorBreaker，基于拉图尔行动者网络理论，生成与有害目标语义相关但表面无害的提示，以绕过对齐大语言模型的安全机制。该方法先构建包含创作、执行、分发等六类行动者的攻击线索网络，再经攻击链推断和自我对话生成多轮查询，并按受害者模型响应动态修改攻击路径。在HarmBench对GPT-4o、GPT-o1、Claude-3.5、Llama-3等六种模型的评测中，平均攻击成功率约为77%。
AI 根据报道生成 · 5 天前更新
走势与进展
每小时关注度
现在 36，24 小时 0%·峰值 38（11月8日 14:00）
11月9日11月10日11月11日11月12日11月13日现在 36
相关研究
报道提到其成果的论文
- 报道提到 HarmBenchHarmBench：自动化红队测试与鲁棒拒答的标准化评测框架上海交大在ACL 2025提出基于行动者网络理论的多轮越狱攻击方法ActorBreaker
arXiv · 2024-02-06 · 深度解读
后续时间线
11月8日
- 公众号 为机器立心上海交大在ACL 2025提出基于行动者网络理论的多轮越狱攻击方法ActorBreaker
上海交通大学团队在ACL 2025论文中提出多轮越狱攻击方法ActorBreaker，基于拉图尔行动者网络理论生成与有害目标语义相关但表面无害的提示，绕过对齐大语言模型的安全机制。该方法先构建包含创作、执行、分发等六类行动者的攻击线索网络，再经攻击链推断和自我对话生成多轮查询，并按受害者模型响应动态修改攻击路径。在HarmBench对GPT-4o、GPT-o1、Claude-3.5、Llama-3等六种模型的评测中，平均攻击成功率为77.7%，高于CoA的18.3%和Crescendo的45.0%；对GPT-o1的攻击成功率达60.0%，并观察到其思维链先表明安全立场、后列出执行步骤，引发对思维链忠实性的担忧。团队还用该方法构建了1680个多轮安全提示数据集，在其上训练的Circuit Breaker对多轮攻击更鲁棒，但安全微调会降低模型有用性。
相关讨论
关注度走势
每天新增来源
- 11月8日新增1个来源（1家媒体、0个账号）
- 11月9日新增0个来源（0家媒体、0个账号）
- 11月10日新增0个来源（0家媒体、0个账号）
- 11月11日新增0个来源（0家媒体、0个账号）
- 11月12日新增0个来源（0家媒体、0个账号）
- 11月13日新增0个来源（0家媒体、0个账号）