Critical-CoT：针对大语言模型推理级后门攻击的鲁棒防御框架
Critical-CoT: A Robust Defense Framework against Reasoning-Level Backdoor Attacks in Large Language Models
AI 导读
研究者提出 Critical-CoT 防御框架，通过两阶段微调让大语言模型培养批判性思维，自动识别潜在后门并拒绝生成恶意推理步骤。这类推理级后门攻击会使模型在思维链中插入恶意推理步骤，后门答案看似合理、难以检测。多模型、多数据集实验显示，该方法对基于上下文学习和基于微调的后门攻击均有较强鲁棒性，并具备跨领域、跨任务泛化能力。