AutoRedTeamer：可持续集成新攻击的自动化红队测试框架

研究者提出 AutoRedTeamer，一个面向大语言模型的全自动端到端红队测试框架，结合多智能体架构与记忆引导的攻击选择机制，可持续发现并集成新攻击向量。框架采用双智能体设计，红队智能体仅凭高层风险类别即可生成并执行测试用例，策略提议智能体通过分析近期研究自主发现并实现新攻击，模块化设计使其在保持现有攻击向量表现的同时适应新威胁。论文称，在 HarmBench 上对 Llama-3.1-70B 的攻击成功率比现有方法高 20%，算力成本降低 46%，生成测试用例的多样性可与人工策划的基准相当。