开源模型安全 · 论文

摘要揭示类型化决策模型被标签误导的机理，证实源于提示词渲染并给出实操建议。

摘要论文建立了单轮越狱评测的标准化端到端方法学体系，揭示了开源大模型在对抗提示词下的安全性能降级与大模型负差距现象。