Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Jailbreaks and attacks · Papers
Found 50 papers提出 OPUR 攻击，用似然梯度优化对抗后缀越狱 LLM 智能体
- Published
- Evaluated models
- Llama-3.1-8B-Instruct, Ministral-8B-Instruct-2410
提出 ReSA，从对齐模型行为恢复安全奖励并在解码时反转
- Published
- Evaluated models
- Llama3.1-8B-Instruct, Gemma-7B-Instruct, Qwen2.5-7B-Instruct and others9
AbstractReSA 用最大熵 IRL 从对齐模型行为恢复代理安全奖励，并在解码时反转以诱导有害输出。
ReSA 是一种对抗攻击：从对齐模型的可观察行为恢复代理安全奖励，再在解码时把该奖励反过来用。。
提出 CRIME 框架，组合良性 Agent 技能诱发恶意行为
- Published
- Evaluated models
- DeepSeek-V4-Flash, GPT-4o-mini, GPT-4o and others6
Abstract良性技能经 DCA 或 ACA 组合后可产生恶意环境后果，单独审查对不上。
CRIME 把公共技能库中各自通过审查的技能配成两两组合，看联合执行能否实现指定恶意任务。。
提出能力洗钱攻击，拆分任务向对齐模型套取能力
- Published
- Evaluated models
- GPT-5.5, Claude Opus 4.8, Grok-4.3 and others7
Abstract作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。
提出 MIPC 与 CFA，观察模型自拟测验后接受开发者身份
- Published
- Evaluated models
- ChatGPT, Claude, Qwen3.7-Plus and others5
Abstract自拟测验可造成对话层虚假认证，但所测授权边界并未因此改变。
这项工作把“模型自己出题、自己批改、再宣布身份已核验”定义成对话层认证失败，并与后端提权分开。
提出多轮越狱框架 BLUEPRINT，用世界观模拟与心理因素诱导有害输出
- Published
- Evaluated models
- Qwen3-Next-80B, DeepSeek-V3.2, GLM-4.7 and others6
AbstractBLUEPRINT 解耦多轮越狱策略与情境模拟，揭示任务具象化是摆脱拒绝的核心机制，为多轮安全防御提供新视角。
BLUEPRINT 是一个将因子化社会影响力策略空间与跨轮世界观模拟解耦的多轮大语言模型安全评测框架。
提出广度优先后缀搜索 BOSS，改进 GCG 越狱优化
- Published
- Evaluated models
- Llama-2-7B-Chat, Yi-1.5-9B-Chat, Qwen2-7B-Instruct and others8
AbstractBOSS 把 GCG 类优化从单条深搜索改为多条短轨迹加源侧诊断。
BOSS 是插在 GCG 类离散 suffix 优化上的搜索框架：局部梯度更新不变，变的是固定预算花在深度还是广度。
提出 DIVA，利用跨步条件传播对离散扩散视觉语言模型实施视觉越狱
- Published
- Evaluated models
- LLaDA-V, MMaDA, LLaDA2.0-Uni
提出 SN-Guided Diffusion，利用安全神经元实现离线越狱
- Published
- Evaluated models
- Qwen2.5-7B-Instruct, LLaDA-8B-Instruct, Dream-Instruct-7B and others15
Abstract论文揭示了扩散语言模型对自回归安全神经元的继承性，并提出纯离线黑盒越狱框架 SN-Guided Diffusion。
论文系统评估了扩散大语言模型（DLLM）在安全对齐中的双重角色——既作为白盒攻击目标，又作为黑盒越狱生成的对抗工具。
提出 Concept2Scenario，借助内部概念归因发现可迁移的越狱场景
- Published
- Evaluated models
- Qwen3.5-9B, Llama-3.1-8B, Ministral-3-8B and others6
Abstract该研究从表征空间因果归因揭示场景削弱拒绝的机制，发现可复用脆弱场景先验，提升多模型黑盒越狱效能与探索速度。
提出生物红队模型 Intern-BioBreaker，多轮越狱诱导模型输出可操作生物危害
- Published
- Evaluated models
- DeepSeek-V3, Kimi-K2.6, DeepSeek-V4-Pro and others14
Abstract论文通过构建专用红队模型评估前沿大模型的生物安全漏洞与物理转化风险。
提出工作流级越狱，让编程 Agent 在开发任务中写入有害示例
- Published
- Evaluated models
- Claude Sonnet 4.6, Claude Haiku 4.5, Gemini 3.1 Pro and others4
Abstract作者报告 Copilot 后端会在编码工作流中生成其在单轮条件下通常拒绝的有害答案。
这是一项生产 IDE 编码智能体的工作流越狱研究，受测对象是 Copilot 的四个模型后端，而非评测流水线中的名义目标。
提出 SMT 框架，用模拟审核轨迹越狱函数调用 LLM
- Published
- Evaluated models
- GPT-4o, GPT-5.4, Qwen3-Max and others7
提出 OTTER 词元替换越狱，绕过表面毒性审核诱导有害回答
- Published
- Evaluated models
- gpt-4-turbo, gpt-4o, gpt-4o-mini and others4
Abstract论文展示了表面毒性与恶意意图的解耦现象，通过标准 API 实现黑盒越狱测试，并提出闭环分类器加固建议。
提出 AdvGRPO，用 GRPO 闭环共训多轮越狱攻击者与防御者
- Published
- Evaluated models
- Qwen2.5-7B-Instruct, Qwen2.5-14B-Instruct, Qwen3.5-9B and others7
提出 CFD 跨会话分解攻击，利用工件来源缺口绕过工具型 Agent 的本地检查
- Published
- Evaluated models
- GPT-4.1, GPT-5-nano, Claude-3.5-Sonnet and others6
AbstractCFD 用无指令 artifact 把越狱拆到跨会话。
CFD针对工具型 LLM 智能体：利用 artifact 来源不被跟踪这一部署失败模式，把有害目标拆开后延迟组合。
提出 SlotGCG，按注意力选槽插入对抗 token 以越狱指令模型
- Published
- Evaluated models
- LLAMA2-7B-CHAT, LLAMA2-13B-CHAT, LLAMA-3.1-8B-INSTRUCT and others10
提出 TRACE 框架，用分解与可演化多轮策略诱导智能体执行有害工作流
- Published
- Evaluated models
- Codex, Claude Code, GPT-5.5 and others6
提出 Persona Attack，分步写入对话记忆指令以越狱
- Published
- Evaluated models
- GPT-4o, Llama-3.2-3B-Instruct, ChatGPT-4o and others5
提出 CodecAttack，在编解码器隐空间构造可穿透有损压缩的对抗音频
- Published
- Evaluated models
- Qwen2-Audio-7B-Instruct, Audio Flamingo 3, Qwen2.5-Omni