Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Jailbreaks and attacks · Papers
Found 5 papers提出 CRIME 框架，组合良性 Agent 技能诱发恶意行为
- Published
- Evaluated models
- DeepSeek-V4-Flash, GPT-4o-mini, GPT-4o and others6
Abstract良性技能经 DCA 或 ACA 组合后可产生恶意环境后果，单独审查对不上。
CRIME 把公共技能库中各自通过审查的技能配成两两组合，看联合执行能否实现指定恶意任务。。
提出 RedEvoAgent，演化攻击技能对黑盒智能体做自动红队
- Published
- Evaluated models
- MiniMax-M2.5, DeepSeek-V4-Flash, Qwen3.5-35B
AbstractRedEvoAgent 用验证棘轮演化可读攻击技能，在两种产品级 harness 上多数设置高于固定工具与红队基线。
RedEvoAgent 是面向产品级 black-box 智能体的自动红队方法，用一份可演化、人类可读的攻击技能编排多个越狱工具。。
提出 TRACE 框架，用分解与可演化多轮策略诱导智能体执行有害工作流
- Published
- Evaluated models
- Codex, Claude Code, GPT-5.5 and others6
提出 Blindfold，用动作级操纵越狱具身 LLM
- Published
- Evaluated models
- Llama-3.1-8B, DeepSeek-R1-14B, Gemma-3-27B and others8
AbstractBlindfold 以动作级代理规划越狱具身 LLM，作者称可绕过语义检查并在仿真与真机生效。
Blindfold 是面向具身 LLM 规划模块的 no-box 攻击，把恶意意图改写成看似良性的动作序列。
AttacksarXiv 2509.25624· 提出 STAC 框架，把恶意目标拆成多轮看似无害的工具调用链
- Published
- Evaluated models
- GPT-4.1-2025-04-14, GPT-4.1-mini-2025-04-14, Qwen3-32B and others8
Abstract作者提出并验证了智能体在序列化工具攻击下的普遍脆弱性，指出针对累积动作序列防御的必要性。
You have reached the end