Backdoor4Good:对大语言模型中后门有益用途的基准测试
Backdoor4Good: Benchmarking Beneficial Uses of Backdoors in LLMs
AI 导读
研究者提出 Backdoor4Good(B4G)基准与框架,将大语言模型中的后门机制重新用于增强安全性、可控性与可问责性的有益任务,而非传统的攻击与防御研究。该工作以触发器、激活机制和效用函数构成的三元组形式化有益后门学习,基准覆盖四类以信任为核心的应用。在 Llama3.1-8B、Gemma-2-9B、Qwen2.5-7B 和 Llama2-13B 上的大量实验显示,有益后门能在保持正常任务性能的同时实现较高的可控性、抗篡改性和隐蔽性。作者称后门并非天然恶意,经适当设计可作为可信 AI 系统中模块化、可解释的有益构件。代码与数据集发布在 https://github.com/bboylyg/BackdoorLLM/B4G。