Foot-In-The-Door：针对 LLM 的多轮越狱方法
[Daily Paper] Foot-In-The-Door: A Multi-turn Jailbreak for LLMs
AI 导读
Weng 等人的论文提出多轮越狱方法 Foot-In-The-Door（FITD），通过中间桥接提示逐步升级用户查询的恶意意图，从良性请求过渡到有害内容，在七个主流模型上取得 94% 的平均攻击成功率，高于现有多轮和单轮方法。该方法利用模型把自身先前回答当作可接受依据的自我腐化机制，形成降低后续有害请求门槛的反馈循环；由于每一轮单独看都无害，针对单轮威胁校准的安全机制难以触发。作者认为这是自回归模型处理多轮上下文的结构性弱点，而非某个模型的实现缺陷。