BackdoorAgent：面向 LLM 智能体后门攻击的统一框架
BackdoorAgent: A Unified Framework for Backdoor Attacks on LLM-based Agents
AI 导读
研究者提出 BackdoorAgent，一个模块化、按阶段划分的统一框架，从智能体视角系统分析 LLM 智能体工作流中的后门威胁，把攻击面划分为规划攻击、记忆攻击和工具调用攻击三类，并通过插桩分析触发器在各阶段间的激活与传播。框架配套构建了覆盖 Agent QA、Agent Code、Agent Web、Agent Drive 四类应用的标准化基准，涵盖纯语言和多模态设置。实验显示，植入单一阶段的触发器可以跨多个步骤持续存在并经中间状态传播，在基于 GPT 的骨干模型上，规划攻击、记忆攻击和工具阶段攻击中触发器持续存在的比例分别为 43.58%、77.97% 和 60.28%。代码和基准已在 GitHub 公开。