论文《面向语言模型的终身安全对齐》
[Daily Paper] Lifelong Safety Alignment for Language Models
AI 导读
Wang 等人的论文把越狱攻击者与模型防御者的对抗形式化为竞争性共同演化框架：Meta-Attacker 用 GPT-4o 从已发表的越狱研究论文中提取并泛化攻击策略，初始攻击成功率为 73%，在另一基准上的迁移成功率为 57%。防御者经过多轮迭代微调后，攻击成功率降至约 7%，Meta-Attacker 的效果趋于平台期。该框架面向无预过滤的“无限制环境”部署。论文未报告与安全指标并列的效用指标，也未讨论计算成本和分布外攻击类别；Failure-First 认为残余的 7% 攻击可能利用推理层面的漏洞。