G.O.S.S.I.P 阅读推荐 2026-11-05 LocalAlign，通过近目标对抗训练提升提示注入防御泛化能力

南洋理工大学与武汉大学研究者在 CCS 2026 论文 LocalAlign 中提出通过近目标对抗训练提升提示注入防御的泛化能力，针对输入侧优化注入文本与目标侧接近正确回答的攻击目标两类泛化不足，设计预热、近目标对抗样本生成和边际感知对齐三阶段训练。在 Llama-3.1-8B-Instruct 和 Qwen3-4B-Instruct-2507 上，六个分布外数据集的无需优化攻击 ASR 均降至 10% 以下，自适应攻击仍更具挑战；Llama-3.1-8B-Instruct 在 AlpacaFarm 分布内的自适应 GCG ASR 从 2.40% 降至 0.48%。与 Meta-SecAlign 相比正常能力最大下降 2.00 个百分点，相对未防御的原始模型，Qwen 的 MMLU-Pro 由 56.74% 降至 49.35%。论文与代码已开源。