事件历史事件
REPRO：黑盒进化提示优化实现LLM越狱
先了解这件事
AI 综述
2026年10月11日发布的arXiv论文提出REPRO，一种纯黑盒自动化红队框架，由单张消费级GPU上压缩的开源7B反思模型驱动进化优化来搜索越狱提示词。方法引入两个机制：LLM引导的多父代重组（语义交叉），以及以结构化失败分析为依据、通过Thompson Sampling实现的贝叶斯策略选择。作者称在AdvBench、JailbreakBench和HarmBench上覆盖11个模型家族共36个目标模型，包括GPT-5-nano、Clau（原文此处截断）。
AI 根据报道生成 · 29 天前更新
走势与进展
每小时关注度
现在 34，24 小时 0%·峰值 34（11月6日 03:00）
11月7日11月8日11月9日11月10日现在 34
相关研究
这件事的论文
- REPRO：用于自动化 LLM 红队测试的反思式进化提示词优化器
arXiv · 2026-10-11 · 深度解读
后续时间线
10月11日
- arXiv：对抗攻击、后门与投毒REPRO：用于自动化 LLM 红队测试的反思式进化提示词优化器
论文提出 REPRO，一种纯黑盒的自动化红队框架，由单张消费级 GPU 上压缩的开源 7B 反思模型驱动进化优化来搜索越狱提示词。方法引入两个机制：LLM 引导的多父代重组即语义交叉，以及以结构化失败分析为依据、通过 Thompson Sampling 实现的贝叶斯策略选择。作者称在 AdvBench、JailbreakBench 和 HarmBench 上覆盖 11 个模型家族共 36 个目标模型，包括 GPT-5-nano、Claude-3.5-Sonnet、Gemini-2.5-Pro 和 Grok-4.1，单轮即在每个评估目标上达到 100% 攻击成功率，单个行为中位数消耗 24 次目标查询。