RTPE：面向 LLM 红队测试的提示词进化框架
Be a Multitude to Itself: A Prompt Evolution Framework for Red Teaming
AI 导读
RTPE 是一个面向 LLM 红队测试的提示词进化框架，通过广度与深度两个维度自动生成大量高质量、多样化的红队提示词。实验显示，RTPE 在攻击成功率和多样性上均优于现有代表性自动红队方法。基于 RTPE 生成的 4,800 条提示词，作者系统分析了 8 个代表性 LLM 在 8 个敏感话题上的表现。