Translation in progress Some entries still include text in the original language.
Oct 13 · Tuesday
Jailbreaks and attacks · Papers
Found 8 papers提出推理通道预填与输出前缀组合攻击以越狱推理模型
- Published
- Evaluated models
- Gemini 3 Flash Preview, DeepSeek V4 Flash, Claude Haiku 4.5
提出任意字母置换密码越狱，无需微调即可诱导有害输出
- Published
- Evaluated models
- Claude Sonnet 4, Claude Sonnet 4.5, Gemini 3 Flash (preview) and others7
Abstract前沿大模型无需微调即可通过提示词学会字母置换密码，进而绕过分类器与对齐，作者呼吁关注能力提升带来的安全风险。
Proposes composite jailbreaks, stacking contrast structure, authoritative persona, and self-evaluation to saturate the instruction hierarchy
- Published
- Evaluated models
- OpenAI gpt-oss-20b
提出多流扰动攻击，交织有害与良性任务绕过思考型 LLM 安全对齐
- Published
- Evaluated models
- Qwen3 1.7B, Qwen3 4B, Qwen3 8B and others11
Abstract多流扰动用任务交织测试 thinking 模式，作者称它同时冲击内容安全与推理稳定性。
多流扰动攻击把有害任务与良性任务织进同一提示词，测试 thinking 模式的内容安全与推理稳定性。作者认为，交织多任务会拉长思考，使安全检测面对被打散的有害意图，并可能把推理用于合理化，或陷入崩溃与重复。方法不访问梯度。
提出 VROP，把有害意图拆成良性视觉 gadget 越狱视觉语言模型
- Published
- Evaluated models
- GPT-4o, Claude 3.7 Sonnet, GLM-4V-Plus and others7
AbstractVROP 以良性视觉 gadget 与控制流提示词做组合越狱。
VROP是 black-box 多模态越狱框架：不在输入中放显式恶意触发，而把有害目标拆成语义正交的良性视觉 gadget，再用控制流提示词把合成留到后期推理。
提出 CoT Forgery，经用户消息或工具输出注入伪造推理
- Published
- Evaluated models
- gpt-oss-20b, gpt-oss-120b, o4-mini and others11
Abstract提示注入被作者解释为角色感知失败：听起来像某角色，就在表示里成为该角色。
作者把提示注入解释成角色感知失败：标签划出的权限没有进入模型的内部几何。
AttacksarXiv 2512.05853· 提出视觉推理序列攻击 VRSA，以图像序列越狱多模态大模型
- Published
- Evaluated models
- DeepSeek-VL2-tiny, InternVL-3.5-8B, LLaVA-1.6-Mistral-7B and others8
AttacksarXiv 2510.11570· 提出四种阶段转换攻击，绕过推理模型的安全推理护栏
- Published
- Evaluated models
- gpt-oss-20b, gpt-oss-120b, Qwen3-4B-Thinking-2507 and others10
You have reached the end