AutoBackdoor：用 LLM 智能体自动化后门攻击
AutoBackdoor: Automating Backdoor Attacks via LLM Agents
AI 导读
研究者提出 AutoBackdoor 框架，用 LLM 智能体自动完成后门攻击的触发词生成、投毒数据构建与模型微调全流程，以模拟后门威胁并评估模型韧性。该框架能生成语义连贯、感知上下文的触发短语，可在任意主题上以极少人工投入实现规模化投毒。作者在 LLaMA-3、Mistral、Qwen、GPT-4o 等开源与商用模型上，围绕偏见推荐、幻觉注入、同行评审操纵三种威胁场景开展实验，仅用少量投毒样本即取得超过 90% 的攻击成功率，并发现现有防御往往无法缓解此类攻击。论文称全部代码、数据集与实验配置将合并入其 GitHub 仓库 BackdoorLLM。