分析与理论arXiv 2606.04168
论文提出随机插入攻击,利用自回归一致性绕过 LLM 安全对齐
解释自回归一致性如何导致浅层安全对齐,并提出随机插入攻击
- arXiv
- 2606.04168
- 发表
- 层
- 提示层
- 场景
- 模型与 API
摘要作者用自回归一致性串起浅层对齐、插入攻击和最坏延续对齐。
作者把浅层安全对齐和一类续写攻击都归到自回归一致性上。
另有232篇论文还没打上分类标签,暂不在筛选结果里。
解释自回归一致性如何导致浅层安全对齐,并提出随机插入攻击
作者把浅层安全对齐和一类续写攻击都归到自回归一致性上。