Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Jailbreaks and attacks · Papers
Found 16 papers提出 ReSA，从对齐模型行为恢复安全奖励并在解码时反转
- Published
- Evaluated models
- Llama3.1-8B-Instruct, Gemma-7B-Instruct, Qwen2.5-7B-Instruct and others9
AbstractReSA 用最大熵 IRL 从对齐模型行为恢复代理安全奖励，并在解码时反转以诱导有害输出。
ReSA 是一种对抗攻击：从对齐模型的可观察行为恢复代理安全奖励，再在解码时把该奖励反过来用。。
提出 CRIME 框架，组合良性 Agent 技能诱发恶意行为
- Published
- Evaluated models
- DeepSeek-V4-Flash, GPT-4o-mini, GPT-4o and others6
Abstract良性技能经 DCA 或 ACA 组合后可产生恶意环境后果，单独审查对不上。
CRIME 把公共技能库中各自通过审查的技能配成两两组合，看联合执行能否实现指定恶意任务。。
提出 BLINDBIAS，通过纯文本续写与前缀控制越狱黑盒模型
- Published
- Evaluated models
- GLM-5, Gemini-3.5-Flash, Qwen3-32B and others4
Abstract作者认为，隐藏数值概率并不足以消除支持重复采样和前缀续写的解码攻击面。
BLINDBIAS 是一种针对 sample-only 续写接口的 black-box 解码时越狱框架，研究没有目标数值概率时，采样能否支持逐步控制。
提出推理通道预填与输出前缀组合攻击以越狱推理模型
- Published
- Evaluated models
- Gemini 3 Flash Preview, DeepSeek V4 Flash, Claude Haiku 4.5
提出能力洗钱攻击，拆分任务向对齐模型套取能力
- Published
- Evaluated models
- GPT-5.5, Claude Opus 4.8, Grok-4.3 and others7
Abstract作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。
检验结构越狱 IICL 能否跨厂商泛化并与语言约束叠加
- Published
- Evaluated models
- gemini-2.5-flash, gemini-2.5-flash-lite
提出 SMT 框架，用模拟审核轨迹越狱函数调用 LLM
- Published
- Evaluated models
- GPT-4o, GPT-5.4, Qwen3-Max and others7
提出 OTTER 词元替换越狱，绕过表面毒性审核诱导有害回答
- Published
- Evaluated models
- gpt-4-turbo, gpt-4o, gpt-4o-mini and others4
Abstract论文展示了表面毒性与恶意意图的解耦现象，通过标准 API 实现黑盒越狱测试，并提出闭环分类器加固建议。
提出 CFD 跨会话分解攻击，利用工件来源缺口绕过工具型 Agent 的本地检查
- Published
- Evaluated models
- GPT-4.1, GPT-5-nano, Claude-3.5-Sonnet and others6
AbstractCFD 用无指令 artifact 把越狱拆到跨会话。
CFD针对工具型 LLM 智能体：利用 artifact 来源不被跟踪这一部署失败模式，把有害目标拆开后延迟组合。
提出 Blindfold，用动作级操纵越狱具身 LLM
- Published
- Evaluated models
- Llama-3.1-8B, DeepSeek-R1-14B, Gemma-3-27B and others8
AbstractBlindfold 以动作级代理规划越狱具身 LLM，作者称可绕过语义检查并在仿真与真机生效。
Blindfold 是面向具身 LLM 规划模块的 no-box 攻击，把恶意意图改写成看似良性的动作序列。
提出纯视觉越狱攻击 VJA，把有害编辑指令编码进图像
- Published
- Evaluated models
- Nano Banana Pro, GPT Image 1.5, Qwen-Image-Edit and others9
提出 SpatialJB，用二维版式打散有害输出以绕过输出护栏
- Published
- Evaluated models
- GPT-4, DeepSeek-R1, DeepSeek-V3 and others11
AttacksarXiv 2510.10271· 提出 MetaBreak，用特殊 token 操纵越狱在线 LLM 服务并绕过审核
- Published
- Evaluated models
- Llama-3.3-70B-Instruct, Qwen-2.5-72B-Instruct, Gemma-2-27B-Instruct and others10
Abstract利用特殊 token 注入对抗平台模板包裹与审核，多场景验证了越狱有效性与互补性。
AttacksarXiv 2510.09023· 提出自适应攻击框架，击穿越狱与提示注入防御
- Published
- Evaluated models
- Gemini-2.5 Pro, GPT-5 Mini, Llama-3.3 70B and others15
AttacksarXiv 2509.25624· 提出 STAC 框架，把恶意目标拆成多轮看似无害的工具调用链
- Published
- Evaluated models
- GPT-4.1-2025-04-14, GPT-4.1-mini-2025-04-14, Qwen3-32B and others8
Abstract作者提出并验证了智能体在序列化工具攻击下的普遍脆弱性，指出针对累积动作序列防御的必要性。
AttacksarXiv 2505.12287· 提出四段越狱提示，评测中英提示对闭源模型的绕过效果
- Published
- Evaluated models
- GPT-4o, DeepSeek-R1, Gemini-1.5-Pro and others4
You have reached the end