Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Jailbreaks and attacks · Papers
Found 11 papers提出 BLINDBIAS，通过纯文本续写与前缀控制越狱黑盒模型
- Published
- Evaluated models
- GLM-5, Gemini-3.5-Flash, Qwen3-32B and others4
Abstract作者认为，隐藏数值概率并不足以消除支持重复采样和前缀续写的解码攻击面。
BLINDBIAS 是一种针对 sample-only 续写接口的 black-box 解码时越狱框架，研究没有目标数值概率时，采样能否支持逐步控制。
提出推理通道预填与输出前缀组合攻击以越狱推理模型
- Published
- Evaluated models
- Gemini 3 Flash Preview, DeepSeek V4 Flash, Claude Haiku 4.5
提出任意字母置换密码越狱，无需微调即可诱导有害输出
- Published
- Evaluated models
- Claude Sonnet 4, Claude Sonnet 4.5, Gemini 3 Flash (preview) and others7
Abstract前沿大模型无需微调即可通过提示词学会字母置换密码，进而绕过分类器与对齐，作者呼吁关注能力提升带来的安全风险。
检验结构越狱 IICL 能否跨厂商泛化并与语言约束叠加
- Published
- Evaluated models
- gemini-2.5-flash, gemini-2.5-flash-lite
提出 SMT 框架，用模拟审核轨迹越狱函数调用 LLM
- Published
- Evaluated models
- GPT-4o, GPT-5.4, Qwen3-Max and others7
AttacksarXiv 2512.05853· 提出视觉推理序列攻击 VRSA，以图像序列越狱多模态大模型
- Published
- Evaluated models
- DeepSeek-VL2-tiny, InternVL-3.5-8B, LLaVA-1.6-Mistral-7B and others8
AttacksarXiv 2510.17904· 提出 BreakFun ，用模拟代码执行中的对象实例化越狱模型
- Published
- Evaluated models
- GPT-4.1 Mini, Gemini 2.5 Flash, Claude-3.5 Sonnet and others16
AttacksarXiv 2510.11570· 提出四种阶段转换攻击，绕过推理模型的安全推理护栏
- Published
- Evaluated models
- gpt-oss-20b, gpt-oss-120b, Qwen3-4B-Thinking-2507 and others10
AttacksarXiv 2510.10271· 提出 MetaBreak，用特殊 token 操纵越狱在线 LLM 服务并绕过审核
- Published
- Evaluated models
- Llama-3.3-70B-Instruct, Qwen-2.5-72B-Instruct, Gemma-2-27B-Instruct and others10
Abstract利用特殊 token 注入对抗平台模板包裹与审核，多场景验证了越狱有效性与互补性。
AttacksarXiv 2509.25624· 提出 STAC 框架，把恶意目标拆成多轮看似无害的工具调用链
- Published
- Evaluated models
- GPT-4.1-2025-04-14, GPT-4.1-mini-2025-04-14, Qwen3-32B and others8
Abstract作者提出并验证了智能体在序列化工具攻击下的普遍脆弱性，指出针对累积动作序列防御的必要性。
AttacksarXiv 2505.12287· 提出四段越狱提示，评测中英提示对闭源模型的绕过效果
- Published
- Evaluated models
- GPT-4o, DeepSeek-R1, Gemini-1.5-Pro and others4
You have reached the end