DeepInception：用嵌套虚构场景催眠 LLM 越狱，在 GPT-4o 与 OpenAI o1 上仍有效
[Daily Paper] DeepInception: Hypnotize Large Language Model to Be Jailbreaker
AI summary
DeepInception 是一种无需训练的黑盒越狱方法，通过递归嵌套的虚构场景“催眠” LLM，使其忽略自身道德边界。研究称其在 GPT-4o、GPT-4、GPT-3.5 与 Llama-3（8B、70B）上有效，可用第二个 LLM 充当“实验者”的 AutoInception 扩展；在 GPT-4o 上还能完成街景照片定位、凭照片识人等被拒任务，对 OpenAI o1 亦然。