预印本:名称描述schema均匹配时,GPT-5.4等三模型50次全选仿冒MCP工具
GPT-5.4, Qwen3.7 Max and DeepSeek V3 Picked Copycat MCP Server Tool Over Real One in All 50 Trials
AI 导读
11 月 16 日发布于 arXiv 的预印本显示,另起一个带有仿冒工具元数据的 MCP 服务器,无需入侵主机、模型或合法服务器,就能让模型把请求交给攻击者的工具。在工具名完全一致、描述被照抄且 schema 兼容的条件下,GPT-5.4、Qwen3.7 Max 和 DeepSeek V3 在该条件的 50 次试验中全部选中攻击者工具,Gemini 2.5 Pro 为 84%,Claude Sonnet 5 为 6%。Claude Sonnet 5 在这一条件下有 94% 的试验先请求澄清,其余三款模型从未询问。作者将这一失败称为 tool-provider misbinding,并提出带签名清单和稳定提供方标识的 provider-bound tool identity 作为修复方向,但论文未评估这些机制。实验只覆盖一项良性的数据集获取任务,且为未经同行评审的预印本。
推荐理由
在工具名与描述完全仿冒的条件下,Claude Sonnet 5 的 6% 违规率与其他三款模型的 100% 形成对照,可见澄清提问在工具选择中的作用。
相关论文