当 LLM 遇上 DRL：通过 DRL 引导搜索提升越狱效率
[Daily Paper] When LLM Meets DRL: Advancing Jailbreaking Efficiency via DRL-guided Search
AI summary
论文提出 RLbreaker，一种由深度强化学习（DRL）驱动的黑盒越狱攻击方法，把越狱提示的构造建模为搜索问题，用 RL 智能体选择改写、扩写、缩短等变异策略以最大化攻击成功率。作者称该方法设计了定制的奖励函数和 PPO 算法，在六个 SOTA LLM 上比现有越狱攻击更有效，并对三种 SOTA 防御保持稳健，消融实验验证了关键设计选择。摘要还称在可访问模型上训练出的智能体可跨模型迁移，该帖文提到其可用于 GPT-4 和 Claude 等闭源系统。帖文作者认为，随着攻击自动化程度提高，攻击成本与防御成本之间的不对称会进一步加剧，防御方需要假定攻击者掌握自动化攻击工具。