SmoothLLM：防御大语言模型的越狱攻击
[Daily Paper] SmoothLLM: Defending Large Language Models Against Jailbreaking Attacks
AI summary
SmoothLLM 是一种针对越狱攻击的防御算法，通过对同一提示词生成多份字符级随机扰动副本并聚合预测，来检测并拦截对抗输入。论文称这是首个针对越狱攻击的防御算法，其依据是越狱提示对字符级改动很脆弱，而正常提示几乎不受错别字影响。论文称该方法在 GPT、Llama、Claude 等模型上对 GCG、PAIR、RandomSearch、AmpleGCG 越狱达到当时最优鲁棒性，并对自适应 GCG 攻击有抵抗力。它无需重训练，兼容任意 LLM，代价是鲁棒性与正常性能之间存在小幅但不可忽略的权衡，代码已在 GitHub 公开。