可解释性arXiv 2609.24801
研究用 XAI 归因分析 Prompt Guard 2，同义词替换可翻转其提示注入判定
用词级归因指导同义词替换，翻转提示注入检测并验证越狱
- arXiv
- 2609.24801
- 发表
- 层
- 提示层
- 场景
- 模型与 API
- 被测模型
- Prompt Guard 2 (86M)、Llama 3.1 8B
摘要作者称检测靠分散的词法线索。
全部论文
另有261篇论文还没打上分类标签，暂不在筛选结果里。
- 可解释性arXiv 2603.08234
续写与拒答之争：大语言模型中续写触发越狱的机制分析
分析续写触发越狱的注意力头机制并提出 HCS
- arXiv
- 2603.08234
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- LLaMA-2-7B-Chat、Qwen2.5-7B-Instruct
摘要作者称越狱来自两类头竞争，HCS 加蒸馏可把该竞争用于推理时干预。
作者用注意力头机制分析 continuation-triggered jailbreak：同一有害指令下，把 continuation 后缀从指令后面挪到提示词边界外，模型更容易顺着后缀继续生成。
已经到底了