可解释性arXiv 2609.24801
研究用 XAI 归因分析 Prompt Guard 2，同义词替换可翻转其提示注入判定
用词级归因指导同义词替换，翻转提示注入检测并验证越狱
- arXiv
- 2609.24801
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Prompt Guard 2 (86M)、Llama 3.1 8B
摘要作者称检测靠分散的词法线索。
- 评测与基准arXiv 2606.02630
MultiTurnPSB
构建 MultiTurnPSB，评测四轮医疗越狱与分类器输入防御
- arXiv
- 2606.02630
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- GPT-4.1-mini、Claude Sonnet 4.5
摘要多轮攻击加剧医疗模型风险，分类器干预有效但受高误报率制约。
MultiTurnPSB 针对患者端医疗大模型在持续交互中的安全风险，构建了包含三种攻击模态的四轮对抗评测基准。
已经到底了