通过规避性注入绕过提示注入检测器

研究者提出一种多探针规避攻击，在投毒输入后附加经 GCG 优化的通用对抗后缀，同时骗过所有层级的激活漂移检测器，在 Phi-3 3.8B 和 Llama-3 8B 上的攻击成功率分别为 93.91% 和 99.63%。该方法建立在 Abdelnabi 等人的任务漂移检测框架之上，把原本用于越狱的 GCG 算法改为针对各层线性探针的损失联合优化后缀，使激活被误判为干净输入。作者同时提出随机后缀增强防御，用多个对抗后缀生成激活并重训线性探针，对未见过的后缀检测准确率为 80% 至 100%，且直接攻击加固后的探针也难以奏效。

Deep readingGenerating