探索并开发基于草稿模型的前置护栏

研究者提出一种在目标模型推理前执行的护栏设计，用小型草稿模型生成候选回答辅助判断提示词安全性，作者称其可降低前置护栏的漏报率。作者先系统研究越狱攻击从大语言模型向小语言模型（SLM）的可迁移性，识别出影响迁移的关键因素，并观察到为 LLM 构造的越狱提示词往往也能触发 SLM 生成不对齐回答。据此，该设计用推测式推理让 SLM 生成一组草稿回答，再把原始提示词和这些草稿一起送入现有护栏预测安全性。作者称这一做法降低了前置护栏的漏报率，并提供一种替代后置护栏的方案，后者需要在目标模型推理之后同时审计提示词和回答。