TRUSTDESC：通过生成可信工具描述防止 LLM 应用中的工具投毒
TRUSTDESC: Preventing Tool Poisoning in LLM Applications via Trusted Description Generation
AI 导读
研究者提出 TRUSTDESC 框架，通过从工具实现代码自动生成可信描述来防御 LLM 应用中的工具投毒攻击（TPA）。此类攻击在工具描述中嵌入恶意指令（显式 TPA）或误导性声明（隐性 TPA）来影响模型行为和工具选择，而现有防御主要检测异常指令，对隐性攻击无效。框架分三个阶段：SliceMin 通过可达性感知静态分析和 LLM 引导的代码瘦身提取最小工具相关代码切片，DescGen 从这些切片合成描述并消除误导性或对抗性代码产物，DynVer 通过执行合成任务进行动态验证来修正描述。在多个工具生态的 52 个真实工具上的评估显示，TRUSTDESC 生成的描述准确并能提高任务完成率，同时从根源缓解隐性工具投毒，时间和金钱开销很小。