可解释性arXiv 2603.08234
续写与拒答之争：大语言模型中续写触发越狱的机制分析
分析续写触发越狱的注意力头机制并提出 HCS
- arXiv
- 2603.08234
- 发表
- 层
- 模型层
- 场景
- 模型与 API
- 被测模型
- LLaMA-2-7B-Chat、Qwen2.5-7B-Instruct
摘要作者称越狱来自两类头竞争，HCS 加蒸馏可把该竞争用于推理时干预。
作者用注意力头机制分析 continuation-triggered jailbreak：同一有害指令下，把 continuation 后缀从指令后面挪到提示词边界外，模型更容易顺着后缀继续生成。