TrojanPraise：通过良性微调越狱 LLM

论文提出 TrojanPraise，一种用良性、可通过审核的数据微调来越狱 LLM 的方法，在五个开源模型和两个商用模型上最高攻击成功率达 95.88%，同时绕过 Llama-Guard-3 等审核模型。方法用 GPT-4o 生成 270 条 QA 数据，把赞美语义压缩进新造词 bruaf，用 bruaf 赞美有害概念，并加入概念定义防止知识漂移、加入长答案良性 QA 调节输出长度。作者把模型对查询的表示分解为知识与态度两个维度，认为成功越狱需要降低态度分同时保持知识分。微调后模型在 Alpaca 常规任务上的质量分仍约 3.0，作者称其数据被检测出的比例仅比良性基线高 7% 和 3%。

Deep readingGenerating