研究者提出意图隐藏越狱的信息论框架,分析组合式攻击
提出组合式意图隐藏越狱,按先验后验匹配选择辅助任务
- arXiv
- 2610.02302
- Published
- Layer
- Prompt layer
- Setting
- Models and APIs
- Evaluated models
- Qwen3-1.7B, Qwen3-4B, Qwen3-8B and others7
- AttacksJailbreaks
- TechniqueEncoding and obfuscation
Abstract用信息论选含目标的任务组合,再看查询能否既隐藏意图又让目标被执行。
这篇工作把组合式意图隐藏写成任务选择:有害目标必须留在 bundle 里,同时让估计的有害意图概率贴近全集先验,或降到阈值以下。