PGuard:面向多模态大语言模型的原生、流式、即插即用护栏
PGuard: A Native, Streaming, and Plug-in Guardrail for Multimodal Large Language Models
AI 导读
PGuard 是面向多模态大语言模型的原生、流式、即插即用护栏,利用骨干模型中间表征做 token 级安全检测,不改变原有推理路径。在由 SGLang 服务的 Qwen3.5-122B-A10B 上,端到端开销仅 0.82-2.26%。在 30 多个覆盖越狱、CBRN 风险等场景的基准上居原生护栏最优,Qwen3.5-9B 文本查询平均 F1 为 0.836,接近专用外部护栏。