SpatialJB：文本分布艺术如何成为 LLM 护栏的越狱钥匙

研究者提出 SpatialJB，利用 Transformer 对空间结构扰动缺乏鲁棒性的弱点，将 token 重新分布到不同行、列或对角线，扰乱模型的输出生成过程，使有害内容绕过输出护栏而不被检测。论文称在多个主流 LLM 上取得接近 100% 的攻击成功率，即使加入 OpenAI Moderation API 等输出护栏，成功率仍超过 75%。作者还给出针对 SpatialJB 的基线防御策略并评估其缓解效果，攻击代码、基线防御与演示已公开。