MultiBreak：面向 LLM 安全评估的可扩展多样化多轮越狱基准
[Daily Paper] MultiBreak: A Scalable and Diverse Multi-turn Jailbreak Benchmark for Evaluating LLM Safety
AI summary
MultiBreak 是一个面向 LLM 安全评估的多轮越狱基准，包含 10,389 条对抗提示，覆盖 2,665 个不同的有害意图。它从有害意图空间出发，用主动学习训练生成器并迭代筛选决策边界附近的样本，以生成更强、更多样的多轮攻击轨迹。论文称，在 DeepSeek-R1-7B 上其攻击成功率比次优数据集高出最多 54.0%，在 GPT-4.1-mini 上高出 34.6%。评论者认为，这些提升意味着当前多轮评测基准可能明显低估模型的脆弱性；静态基准会随安全训练推进而过时，主动学习流程可针对新模型重新运行以定位新的决策边界。