CANS：面向大语言模型的能力保留神经元导向方法
CANS: Capability-Preserving Neuron Steering for Large Language Models
AI 导读
研究者提出兼顾目标行为控制与通用能力保留的神经元导向框架 CANS，无需迭代训练或额外推理计算即可实现轻量行为干预。方法以模型生成回复中目标 token 的对数概率和通用输入上的输出分布 KL 散度为代理指标，结合局部近似得到闭式解，生成神经元级缩放系数；共享的数据构建与干预流程通过目标行为过滤和目标片段标注适配不同领域。在 Qwen 与 Llama 模型的安全、毒性和幻觉控制任务上，CANS 的导向效果与 SFT、CAA 及神经元级基线相当或更好，同时更好保留 MMLU、BBH 和 IFEval 表现。在 Qwen3-4B 上，CANS 将 HarmBench 攻击成功率从 15.50% 降至 1.75%，平均能力下降 1.11 分。