论文《Lifelong Safety Alignment for Language Models》提出大语言模型终身安全对齐框架
[Daily Paper] Lifelong Safety Alignment for Language Models
AI 导读
论文《Lifelong Safety Alignment for Language Models》提出一种终身安全对齐框架，由 Meta-Attacker 与 Defender 协同，让大语言模型在部署过程中持续适应新出现的越狱策略，在提升鲁棒性的同时避免灾难性遗忘。