跳到正文
原文
arXiv· arXiv:2605.02647· Mario Rodríguez Béjar, Francisco J. Cortés-Delgado, S. Braghin, Jose L. Hernández-Ramos·本站收录 · 原文发表 精选关注度54

ContextualJailbreak:通过模拟对话预置进行进化式红队测试

ContextualJailbreak: Evolutionary Red-Teaming via Simulated Conversational Priming

AI 导读

研究者提出 ContextualJailbreak,一种把模拟多轮对话本身作为进化搜索对象的黑盒红队策略,用 0–5 分级伤害评分作为循环内信号,并以 roleplay、scenario、expand、troubleshooting、mechanistic 五个变异算子驱动搜索,其中后两个为本文新增。在 50 个 HarmBench 行为上,该方法在 gpt-oss:20B、qwen3-8B、llama3.1:70B 上达到 100% ASR@4,在 gpt-oss:120B 上为 90%,比四个单轮与多轮基线平均高 31–96 个百分点。

深度解读生成中

推荐理由

论文给出多轮上下文预置攻击在多个开源模型上的 ASR,并显示同一批攻击迁移到不同厂商前沿模型时成功率差异明显。

阅读原文arxiv.org