Failure-First·本站收录2026-10-13 11:41· 原文发表2月4日

大语言模型越狱史：完整研究文章

A History of Jailbreaking Language Models — Full Research Article

AI 导读

四年间，大语言模型越狱从“忽略之前的指令”式提示词操纵，演进为在特定评测中对前沿模型取得高攻击成功率的自动化优化流程。其阶段依次为 2022 年提示词操纵、社区人格工程、2023 年梯度优化、2024 年算法利用与 2025 年推理模型认知漏洞利用。文章称，每一代防御都为下一代攻击创造了选择压力。