跳到正文
原文
arXiv:对齐、欺骗与监督· arXiv:2611.09734· Tianze Chang, Junjie Chu, Yixin Wu, Michael Backes, Yang Zhang·本站收录· 原文发表

GuardrailAgent:一种面向越狱防御的智能体框架

GuardrailAgent: An Agentic Framework for Jailbreak Defense

AI 导读

GuardrailAgent 多智能体越狱防御框架在十余种代表性越狱攻击上实现 93.9% 整体检测率,并通过自动汇集攻击特征持续更新知识库,支持输入侧和输出侧检测。其输入侧检测率为 93.1%,F1 为 95.8%,并能较快适应未见攻击。

阅读原文arxiv.org