跳到正文
原文

BadEdit:通过模型编辑向大语言模型植入后门

BadEdit: Backdooring large language models by model editing

arXiv· arXiv:2403.13355· Yanzhou Li, Tianlin Li, Kangjie Chen, Jian Zhang, Shangqing Liu, Wenhan Wang, Tianwei Zhang, Yang Liu·本站收录· 13 天前· 原文发表攻击
AI 导读

研究者提出 BadEdit,将后门注入表述为轻量知识编辑问题,通过直接修改大语言模型参数植入后门。该方法仅需 15 个样本即可完成注入,只调整部分参数,从而减少时间消耗。实验显示,对预训练大语言模型的攻击成功率最高可达 100%,同时保持模型在良性输入上的表现,后门在后续微调或指令微调后仍可保留。

阅读原文arxiv.org