跳到正文
原文

DACE:面向鲁棒 LLM 安全对齐的多样性驱动对抗协同进化

DACE: Diversity-Driven Adversarial Co-Evolution for Robust LLM Safety Alignment

arXiv:其他 AI 安全论文· arXiv:2611.22278· NeurIPS 2026· Peng Yu, Xiaoyu Wen, Zhida He, Ziyuan Zhou, Han Qi, Shao Zhang, Qiaosheng Zhang, Ying Wen, Chaochao Lu·本站收录· 2 天前· 原文发表防御· 扫描记录里的位置 →
AI 导读

DACE 是多样性驱动的对抗协同进化框架,针对攻击策略坍缩与防御对抗遗忘,增强 LLM 安全对齐的鲁棒性。攻击侧以风险类别×攻击风格的二维策略空间配合边际覆盖增益奖励,防御侧用 Thompson 采样维护贝叶斯对抗回放池。在标准安全、自动化攻击者与通用能力基准上,DACE 提升分布外攻击鲁棒性、保留通用能力,攻击策略覆盖更广。

阅读原文NeurIPS 2026