AutoRedTeamer:带终身攻击集成的自主红队测试
[Daily Paper] AutoRedTeamer: Autonomous Red Teaming with Lifelong Attack Integration
AI 导读
AutoRedTeamer 是一个自动化红队测试系统,用提出者 Agent 生成新攻击策略、执行者负责测试、记忆模块保留成功方法,使系统随每次评测会话不断改进。该系统把策略构思与执行分离,让提出者专注于尝试什么、执行者处理提示词层面的具体机制,以提升攻击多样性。框架还会跟踪哪些风险类别已被探索,并把新提案偏向覆盖不足的领域,避免重复高成功率攻击而遗漏系统性盲区。Failure-First 认为,这种跨会话积累并复用成功攻击的模式与其攻击演化管线的设计一致。