用电路锚定实现大语言模型的安全自进化

研究者提出电路锚定进化（Circuit-Anchored Evolution, CAE）方法，在3个模型家族和两种进化算法的实验中实现更好的安全保持，能力损失很小，效果和效率均优于显式奖励约束。受生物发育约束以及Hox基因5亿年来锚定身体结构的启发，作者用机制可解释性定位一个占比不到2%的安全电路，它因果性地介导模型的安全行为，进化时将其约束在小位移界内，其余特征自由进化。作者观察到现有大语言模型自进化算法只为能力优化、默认安全会被保留，其实验显示模型可能因此误进化成强大而危险的系统。