DACE:面向鲁棒 LLM 安全对齐的多样性驱动对抗协同进化
DACE: Diversity-Driven Adversarial Co-Evolution for Robust LLM Safety Alignment
AI 导读
DACE 是多样性驱动的对抗协同进化框架,针对攻击策略坍缩与防御对抗遗忘,增强 LLM 安全对齐的鲁棒性。攻击侧以风险类别×攻击风格的二维策略空间配合边际覆盖增益奖励,防御侧用 Thompson 采样维护贝叶斯对抗回放池。在标准安全、自动化攻击者与通用能力基准上,DACE 提升分布外攻击鲁棒性、保留通用能力,攻击策略覆盖更广。