ToFu：利用与模糊测试 LLM 编排器与工具之间的信任边界
ToFu: Exploiting and Fuzzing the LLM-Orchestrator-Tool Trust Boundary
AI 导读
研究者提出 ToFu，一个面向 LLM 工具的模糊测试框架，从工具元数据与 CWE 引导的清洗器语料自动派生语义安全检查，并生成符合 schema 的模糊测试 harness 与语义 oracle。在 273 个 MCP 服务器、3405 个工具上评估后，ToFu 在 118 个服务器的 343 个工具中确认 253 个可复现缺陷，包括反射输出 115 个、路径穿越 64 个、日志注入 58 个、SSRF 7 个等。这些缺陷多在工具正常返回时发生，不表现为崩溃。作者还提出 Repeat-After-Me 攻击，诱导 LLM 逐字复述攻击者构造的工具调用文本，编排层将其当作请求分发执行，说明符合工具调用 schema 并不代表请求可信。
推荐理由
ToFu 从工具元数据自动派生安全语义检查并做模糊测试，为 MCP 工具实现的自有审计提供了可迁移的方法。