Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Jailbreaks and attacks · Papers
Found 7 papers提出能力洗钱攻击，拆分任务向对齐模型套取能力
- Published
- Evaluated models
- GPT-5.5, Claude Opus 4.8, Grok-4.3 and others7
Abstract作者提出了能力洗钱攻击，发现未对齐编排器分解咨询对齐模型可恢复能力差距，指出需建立跨会话防御。
提出 RedEvoAgent，演化攻击技能对黑盒智能体做自动红队
- Published
- Evaluated models
- MiniMax-M2.5, DeepSeek-V4-Flash, Qwen3.5-35B
AbstractRedEvoAgent 用验证棘轮演化可读攻击技能，在两种产品级 harness 上多数设置高于固定工具与红队基线。
RedEvoAgent 是面向产品级 black-box 智能体的自动红队方法，用一份可演化、人类可读的攻击技能编排多个越狱工具。。
提出 SWhisper，用近超声波向语音驱动 LLM 隐蔽注入越狱提示
- Published
- Evaluated models
- Meta-Llama-3.1-8B-Instruct, Gemma-3-4B, Qwen2.5-7B-Instruct and others9
提出 iMIST，用工具伪装和 PPO 迭代越狱大语言模型
- Published
- Evaluated models
- DeepSeek-V3, Qwen3-32B, GPT-OSS-120B
AbstractiMIST 用工具伪装和在线 PPO 做黑盒越狱，Table I 中 JADES 高于同格基线。
iMIST是黑盒越狱方法：把恶意查询伪装成合法工具调用，再用在线强化学习把响应的有害性分数往上推。
AttacksarXiv 2512.20168· 提出双重隐写越狱 Odysseus，用图像隐写绕过多模态系统安全过滤器
- Published
- Evaluated models
- GPT-4o-2024-08-06, Gemini-2.0-pro, Gemini-2.0-flash and others4
AttacksarXiv 2510.09023· 提出自适应攻击框架，击穿越狱与提示注入防御
- Published
- Evaluated models
- Gemini-2.5 Pro, GPT-5 Mini, Llama-3.3 70B and others15
AttacksarXiv 2509.25624· 提出 STAC 框架，把恶意目标拆成多轮看似无害的工具调用链
- Published
- Evaluated models
- GPT-4.1-2025-04-14, GPT-4.1-mini-2025-04-14, Qwen3-32B and others8
Abstract作者提出并验证了智能体在序列化工具攻击下的普遍脆弱性，指出针对累积动作序列防御的必要性。
You have reached the end