每日论文：Tree of Attacks 自动越狱黑盒大语言模型
[Daily Paper] Tree of Attacks: Jailbreaking Black-Box LLMs Automatically
AI 导读
一篇每日论文解读介绍了 Tree of Attacks with Pruning（TAP），一种无需模型权重、仅靠查询访问的自动化黑盒越狱框架。TAP 用一个带思维链推理的 Attacker LLM 迭代生成并改进对抗提示，由 Evaluator LLM 打分，只有 10 分才算成功，并以分支因子 b=4、最大宽度 w=10、最大深度 d=10 的树搜索与剪枝控制查询量。基准测试中，TAP 在 GPT-4o 上越狱成功率为 94%、平均 16.2 次查询，Gemini-Pro 上 98%、16.2 次查询，PaLM-2 上 96%、12.4 次查询，相比 PAIR 成功率更高、查询更少。