Jailbreak-R1：兼顾多样性与有效性的 RL 自动红队方法
[Daily Paper] Jailbreak-R1: RL-Trained Automated Red-Teaming with Diversity-Effectiveness Balance
AI 导读
Jailbreak-R1 提出一种用强化学习训练的自动红队方法，通过显式多样性奖励在攻击有效性与覆盖范围之间取得平衡。方法分三阶段：先用已有越狱数据集做模仿学习冷启动，再用一致性与多样性双奖励驱动探索，最后用渐进式奖励塑形逐步提高越狱成功标准。论文称其奖励基于目标模型是否产生有害回复而非毒性分类器打分，且训练好的红队模型可跨目标模型迁移、无需重新训练，从而降低逐模型评测成本。作者在 github.com/yuki-younai/Jailbreak-R1 开源了代码。