Some text is shown in its original language while the English translation is being prepared.
Oct 12 · Monday
Jailbreaks and attacks · Papers
108 papers提出 OPUR 攻击，用似然梯度优化对抗后缀越狱 LLM 智能体
- Published
- Evaluated models
- Llama-3.1-8B-Instruct、Ministral-8B-Instruct-2410
提出 PEV 攻击，在输入嵌入上加高斯噪声越狱开源模型
- Published
- Evaluated models
- Llama-3.1-8B-Instruct、Qwen2.5-1.5B-Instruct、Phi-4-mini-3.8B and others6
AbstractPEV 用 embedding 高斯噪声，在六个模型上越狱 JailbreakBench 全部提示。
PEV 是对 open-weight LLM 的 embedding 噪声越狱。
提出 ReSA，从对齐模型行为恢复安全奖励并在解码时反转
- Published
- Evaluated models
- Llama3.1-8B-Instruct、Gemma-7B-Instruct、Qwen2.5-7B-Instruct and others9
AbstractReSA 用最大熵 IRL 从对齐模型行为恢复代理安全奖励，并在解码时反转以诱导有害输出。
ReSA 是一种对抗攻击：从对齐模型的可观察行为恢复代理安全奖励，再在解码时把该奖励反过来用。。
提出 CRIME 框架，组合良性 Agent 技能诱发恶意行为
- Published
- Evaluated models
- DeepSeek-V4-Flash、GPT-4o-mini、GPT-4o and others6
Abstract良性技能经 DCA 或 ACA 组合后可产生恶意环境后果，单独审查对不上。
CRIME 把公共技能库中各自通过审查的技能配成两两组合，看联合执行能否实现指定恶意任务。。
提出 Red-TTT，在攻击过程中更新攻击者实现自动化越狱
- Published
- Evaluated models
- Llama-3-8B-Instruct、gpt-oss-20b、gpt-4.1-mini and others4
提出组合式意图隐藏越狱，按先验后验匹配选择辅助任务
- Published
- Evaluated models
- Qwen3-1.7B、Qwen3-4B、Qwen3-8B and others7
Abstract用信息论选含目标的任务组合，再看查询能否既隐藏意图又让目标被执行。
这篇工作把组合式意图隐藏写成任务选择：有害目标必须留在 bundle 里，同时让估计的有害意图概率贴近全集先验，或降到阈值以下。
提出 CodeMimicry，以结构化代码补全诱导模型生成有害内容
- Published
- Evaluated models
- GPT-4o、GPT-4.1、GPT-5-chat and others10
提出 SceneJail，利用视频情境上下文越狱视频多模态模型
- Published
- Evaluated models
- Qwen2.5-VL-7B-Instruct、Qwen2.5-VL-32B-Instruct、Qwen3-VL-8B-Instruct and others8
提出 CollageAttack，用空间文本碎片重组越狱文生图模型
- Published
- Evaluated models
- GPT-Image-2、Doubao-Seedream-5.0-Lite、Wan2.7-Image-Pro and others5
Abstract系统揭示 T2I 跨模态空间合成安全漏洞，证实离散无害元素可在图像层面重构有害意图并放大传播强度。
提出 BLINDBIAS，通过纯文本续写与前缀控制越狱黑盒模型
- Published
- Evaluated models
- GLM-5、Gemini-3.5-Flash、Qwen3-32B and others4
Abstract作者认为，隐藏数值概率并不足以消除支持重复采样和前缀续写的解码攻击面。
BLINDBIAS 是一种针对 sample-only 续写接口的 black-box 解码时越狱框架，研究没有目标数值概率时，采样能否支持逐步控制。
提出 FinRT，将消费金融自适应红队轨迹蒸馏为可复用对抗提示生成器
- Published
- Evaluated models
- Llama-3.3-70B、Llama-3.1-8B、Mixtral-8x7B and others6
AbstractFinRT 用前向失效发现加校准代理 DPO，把消费金融红队收成单次前向生成器。
FinRT 是面向消费金融的红队框架：先发现政策失效，再训练一个按政策、领域与目标行为出提示的生成器。
提出 RISE，迭代演化可复用策略对文生图模型做红队
- Published
- Evaluated models
- DALL·E 3、Nano Banana 2、GPT-Image-2 and others7
提出 TempQ-Jail，以查询受限候选排序越狱文生视频模型
- Published
提出推理通道预填与输出前缀组合攻击以越狱推理模型
- Published
- Evaluated models
- Gemini 3 Flash Preview、DeepSeek V4 Flash、Claude Haiku 4.5
消融比较方言越狱中表层形式、文化框架与策略库的作用
- Published
- Evaluated models
- GPT-4o、DeepSeek-Reasoner、DeepSeek-Chat
提出 SAST-IR，用有状态攻击者迭代说服无记忆模型接受反事实
- Published
- Evaluated models
- DeepSeek-Chat
提出能力洗钱攻击，拆分任务向对齐模型套取能力
- Published
- Evaluated models
- GPT-5.5、Claude Opus 4.8、Grok-4.3 and others7
Abstract作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。
提出任意字母置换密码越狱，无需微调即可诱导有害输出
- Published
- Evaluated models
- Claude Sonnet 4、Claude Sonnet 4.5、Gemini 3 Flash (preview) and others7
Abstract前沿大模型无需微调即可通过提示词学会字母置换密码，进而绕过分类器与对齐，作者呼吁关注能力提升带来的安全风险。
检验结构越狱 IICL 能否跨厂商泛化并与语言约束叠加
- Published
- Evaluated models
- gemini-2.5-flash、gemini-2.5-flash-lite
提出 DIVA，将有害意图拆成视觉锚点与运动文本以越狱视频生成模型
- Published
- Evaluated models
- Wan、CogVideoX、LTX-Video and others9
AbstractDIVA 用视觉锚点抑制语义漂移做视频越狱，并给出多条件安全基准 TI2VSafetyBench。
DIVA 是针对带参考图的视频生成模型的免训练 black-box 越狱：用一致性机制本身堵住语义漂移这条安全逃逸路径。。