大语言模型可逐字复现长恶意序列
Large Language Models Can Verbatim Reproduce Long Malicious Sequences
AI 导读
论文重新审视大语言模型的后门攻击，聚焦让模型逐字生成长恶意序列的场景，例如生成含硬编码密钥的代码。作者沿用计算机视觉文献的做法，把恶意触发输入与对应响应的配对混入较大的良性数据集训练出木马模型，发现目标输入触发时模型可逐字复现含不超过 100 个随机字符硬编码密钥的任意响应，低秩优化设置下同样成立，表明 LoRA 微调中可注入后门。在 Gemini Nano 1.8B 上的实验显示，后续良性微调能有效解除木马模型中的后门。