USENIX Security 26｜JailbreakScope 用电路与表征分析解读大模型越狱机制

浙江大学区块链与数据安全全国重点实验室团队的 JailbreakScope 在 USENIX Security 2026 上提出表征与电路双视角框架，解释大模型越狱的内部机制。研究用安全探针发现，对齐模型在中间靠后层对安全与有害输入的识别准确率接近 99%；越狱提示会扰动隐层表征，把有害输入推向安全样本聚类，同时压制拒绝信号组件、放大肯定信号组件。在 Llama2-7b 上，表征欺骗与电路偏移的相关系数为 0.79，其余被测模型均大于 0.64；团队还发现 7B 与 13B 模型的安全关键电路位置高度重合，扩大参数量并不必然提升越狱抗性。研究记录了“先拒绝后沦陷”的样本，认为只做输入阶段的静态检测会漏掉这类越狱，并提出表征与电路联合的运行时检测与针对安全组件的靶向对齐两条防御思路。