跳到正文
原文
arXiv:越狱与提示注入· arXiv:2609.03693· Jakub Reš·· 28 天前

AlcaTRAz:无需模型权重的规则树提示级越狱防御

AlcaTRAz - Anchored Tree-Rule Defense Against Jailbreaks

AI 导读

AlcaTRAz 是一种基于规则树的提示级越狱防御,只作用于输入文本,不需要访问模型权重或内部结构,也无需修改或重训练目标模型。该方法自动学习一条可迁移的变换规则,在选定位置插入受控的字符级扰动,破坏越狱攻击所利用的结构规律,同时尽量保持模型对正常问题的表现。

阅读原文arxiv.org