三思而后行：通过隔离规划保护 LLM Agent 免受工具描述投毒攻击
Think Twice Before You Act: Protecting LLM Agents Against Tool Description Poisoning via Isolated Planning
AI 导读
研究者提出 Tool-Guard，一种基于隔离规划概念的系统级防御，用于保护 LLM Agent 免受跨工具描述投毒攻击。这类攻击通过操纵规划器可见的工具元数据引导 Agent 的执行轨迹，即使被投毒的工具从未被选用，投毒描述也会在规划上下文中跨步骤持续存在并影响后续工具选择；论文评估发现现有提示注入防御对这类攻击迁移效果不佳。Tool-Guard 将被检测为不对齐或可疑的工具调用所涉工具放入隔离名单，切断投毒描述的进一步影响，同时保留该工具继续支撑任务的能力。在 AgentDojo 和 ASB 基准上的实验显示，Tool-Guard 大幅降低攻击成功率并保持较高任务效用，代码开源于 https://github.com/shishishi123/Tool-Guard。