Translation in progress Some entries still include text in the original language.
Oct 12 · Monday
Jailbreaks and attacks · Papers
Found 3 papers提出 RedEvoAgent，演化攻击技能对黑盒智能体做自动红队
- Published
- Evaluated models
- MiniMax-M2.5, DeepSeek-V4-Flash, Qwen3.5-35B
AbstractRedEvoAgent 用验证棘轮演化可读攻击技能，在两种产品级 harness 上多数设置高于固定工具与红队基线。
RedEvoAgent 是面向产品级 black-box 智能体的自动红队方法，用一份可演化、人类可读的攻击技能编排多个越狱工具。。
提出工作流级越狱，让编程 Agent 在开发任务中写入有害示例
- Published
- Evaluated models
- Claude Sonnet 4.6, Claude Haiku 4.5, Gemini 3.1 Pro and others4
Abstract作者报告 Copilot 后端会在编码工作流中生成其在单轮条件下通常拒绝的有害答案。
这是一项生产 IDE 编码智能体的工作流越狱研究，受测对象是 Copilot 的四个模型后端，而非评测流水线中的名义目标。
提出 TRACE 框架，用分解与可演化多轮策略诱导智能体执行有害工作流
- Published
- Evaluated models
- Codex, Claude Code, GPT-5.5 and others6
You have reached the end