论文《自己做自己的红队》：用自博弈与反思式经验回放实现安全对齐
[Daily Paper] Be Your Own Red Teamer: Safety Alignment via Self-Play and Reflective Experience Replay
AI summary
Wang 等人提出一种自博弈强化学习框架，让同一个 LLM 同时扮演攻击者和防御者，自行生成越狱提示词并据此更新自身的安全对齐。系统用反思式经验回放积累攻防经验，并用 UCB 采样把攻击策略选择当作多臂老虎机问题，探索未被充分利用的攻击向量，避免攻击者收敛到少数有效提示。论文报告在 Llama-3-8B 上攻击成功率从约 42% 降到约 11%，Mistral-7B 从约 38% 降到约 9%，Vicuna-13B 从约 47% 降到约 14%，并在 HarmBench、AdvBench 等留出基准上验证泛化。作者称该循环受限于模型已有的攻击知识，是外部红队的补充而非替代。