Jev 作为 LLM 安全护栏：输入过滤、选择性输出审查与过度拒答的实证研究
Jev as an LLM Safety Guardrail: An Empirical Study of Input Filtering, Selective Output Review, and Over-Refusal
AI 导读
实证研究将概率决策模型 Jev 用作 Qwen2.5-1.5B 流水线安全护栏，输入过滤使 720 条有害提示应答率从 73.2% 降至 2.4%，但 250 条 XSTest 安全提示拒答率从 1.2% 升至 10.8%。分级过滤加选择性输出审查下，有害应答率为 5.6%、良性拒答率 4.0%；阈值联合优化将 macro-F1 从 0.9351 提至 0.9512。不过与重新调参的单门控相比，其额外增益在留出集上并不稳定。