Mousetrap：用迭代混沌链诱骗大型推理模型越狱
[Daily Paper] A Mousetrap: Fooling Large Reasoning Models for Jailbreak with Chain of Iterative Chaos
AI 导读
论文提出 Mousetrap，并称这是首个专为大型推理模型（LRM）设计的越狱框架，通过 Chaos Machine 将攻击提示词做一对一映射并迭代嵌入模型的推理链，利用推理惯性让模型自行推导出有害内容。论文报告的成功率为 o1-mini 96%、Claude-Sonnet 86%、Gemini-Thinking 98%；在针对 Claude-Sonnet 的标准基准上为 AdvBench 87.5%、StrongREJECT 86.58%、HarmBench 93.13%。论文认为推理缺陷不同于对齐缺陷，仅在输出层设防可能无法阻止推理链被污染。Failure-First 指出推理轨迹本身即攻击面，并质疑这些成功率在不同评分方法下是否稳健。
推荐理由
论文称推理链本身可成为攻击面，越狱后的推理模型会输出比普通 LLM 更具体的有害内容。