跳到正文
原文

学习协调:面向 token 高效红队测试的 LLM 引导工作流演化

Learning to Coordinate: LLM-Guided Workflow Evolution for Token-Efficient Red Teaming

arXiv:其他 AI 安全论文· arXiv:2611.24221· Xiaoyang Xing, Wenyu Dai, Xiaoliang Gong, Asoke K Nandi, Anthony Cohn·本站收录· 13 小时前· 原文发表攻击· 扫描记录里的位置 →
AI 导读

L2C 用 LLM 引导的多智能体工作流演化,以更低 token 成本发现 LLM 安全失效。经监督微调的控制器据目标响应与评估判定决定保留、细化或重构工作流。在 HarmBench 三种执行器、两个目标模型的六种配置下,L2C 较 EvoSynth 将攻击成功率提升 1.4 至 4.5 个百分点,平均在线 token 减少 35.6% 至 37.3%。

阅读原文arxiv.org