全局谋划、局部适应：具备双层学习的多轮红队智能体
[Daily Paper] Strategize Globally, Adapt Locally: A Multi-Turn Red Teaming Agent with Dual-Level Learning
AI 导读
Failure-First 的每日论文介绍了一个名为 GALA 的多轮红队智能体，它把模型的每次拒答当作优化信号，在五轮对话内对多个模型取得超过 87% 的攻击成功率。GALA 以 Qwen2.5-72B-Instruct 作为攻击大脑，采用全局战术学习与局部提示词学习两层机制，并用 信念状态跟踪对话进度。在 JailbreakBench 上，论文报告其对 GPT-3.5-Turbo-0125 的攻击成功率为 91%，对 Llama-3.1-8b 为 87%，对 Llama-3.1-70B 为 92%，多样性得分比基线 GOAT 高 28%。论文称该智能体还能自行归纳出新的越狱战术。