[Daily Paper] RECAP：面向大语言模型的资源高效对抗提示方法
[Daily Paper] RECAP: A Resource-Efficient Method for Adversarial Prompting in Large Language Models
AI 导读
RECAP 是一种基于检索的对抗提示方法，从预先构建的对抗提示库中检索语义最相近的提示，替代逐目标的梯度优化。论文在标准越狱基准上将其与 GCG、PEZ、GBDA 对比，称在大部分行为上取得与完整优化相当的攻击成功率，运行速度则快数个数量级。论文指出，检索在库中覆盖良好的行为上有竞争力，但对训练分布边缘的新行为会退化，优化方法仍占优势。据此提出的两阶段红队流程是先做低成本检索扫描，再对检索失败或覆盖稀疏的行为做优化深挖。