跳到正文
原文
arXiv· arXiv:2603.07452· Yige Li, Wei Zhao, Zhe Li, Nay Myat Min, Hanxun Huang, Yunhan Zhao, Xingjun Ma, Yu-Gang Jiang, Jun Sun·本站收录· 原文发表

Backdoor4Good:对大语言模型中后门有益用途的基准测试

Backdoor4Good: Benchmarking Beneficial Uses of Backdoors in LLMs

AI 导读

研究者提出 Backdoor4Good(B4G)基准与框架,将大语言模型中的后门机制重新用于增强安全性、可控性与可问责性的有益任务,而非传统的攻击与防御研究。该工作以触发器、激活机制和效用函数构成的三元组形式化有益后门学习,基准覆盖四类以信任为核心的应用。在 Llama3.1-8B、Gemma-2-9B、Qwen2.5-7B 和 Llama2-13B 上的大量实验显示,有益后门能在保持正常任务性能的同时实现较高的可控性、抗篡改性和隐蔽性。作者称后门并非天然恶意,经适当设计可作为可信 AI 系统中模块化、可解释的有益构件。代码与数据集发布在 https://github.com/bboylyg/BackdoorLLM/B4G。

阅读原文arxiv.org