跳到正文
原文

基于对比原型结构的 LLM 越狱检测

Jailbreak Detection on Large Language Models via Contrastive Prototype Structures

arXiv:越狱、提示注入、投毒与防御· arXiv:2611.24936· Yan Qiu, Yuanyuan Li·本站收录· 12 小时前· 原文发表防御· 扫描记录里的位置 →
AI 导读

提出 LLM 越狱检测方法 JDPI:仅用二元安全标签构建有害与良性原型,按相对原型距离预测,无需训练额外下游分类器。四个基准上对比微调使检测准确率提升 9.1-18.0 个百分点,数据集适配后 ROC-AUC 超出 Llama Guard 3-8B 基线 0.173-0.310。12 项定向迁移中准确率平均高出分类器 1.59 个百分点。

阅读原文arxiv.org