学习协调:面向 token 高效红队测试的 LLM 引导工作流演化
Learning to Coordinate: LLM-Guided Workflow Evolution for Token-Efficient Red Teaming
AI 导读
L2C 用 LLM 引导的多智能体工作流演化,以更低 token 成本发现 LLM 安全失效。经监督微调的控制器据目标响应与评估判定决定保留、细化或重构工作流。在 HarmBench 三种执行器、两个目标模型的六种配置下,L2C 较 EvoSynth 将攻击成功率提升 1.4 至 4.5 个百分点,平均在线 token 减少 35.6% 至 37.3%。