当工具名不等于身份:测量基于 MCP 的 AI 智能体中的提供方误绑定
When Tool Names Are Not Identities: Measuring Provider Misbinding in MCP-Based AI Agents
作者将 MCP 工具-提供者误绑定形式化为攻击者控制的工具选择问题,在 5 个 LLM 客户端上测得 C10 条件下 GPT-5.4、Qwen3.7 Max、DeepSeek V3 的违规率均为 1.00。
攻击者不入侵主机、客户端、LLM、合法服务器或网络信道,仅运营另一个对同一客户端可见的 MCP 服务器,并以自选元数据(名称、描述、schema)广告工具;目标是让本应发给合法提供者的请求被解析到攻击者控制的工具(tool-provider misbinding violation)。
- MCP 让客户端组合多个服务器广告的工具,但用于发现的工具元数据未必绑定到经过验证的提供者身份,可能把本应发给合法提供者的请求解析到攻击者控制的工具。
- 作者将工具-提供者误绑定形式化为攻击者控制的工具选择优化问题,在受控 MCP 环境中对工具名称、描述、schema 做 2×3×2 因子实验(12 个条件),并做异名、描述措辞和攻击者预算的鲁棒性实验。
- 在 5 个 LLM 客户端上,同名冲突+任务对齐描述+兼容 schema 的组合(C10、C12)产生最高违规率,C10 下 GPT-5.4、Qwen3.7 Max、DeepSeek V3 的 VR 均为 1.00;Claude Sonnet 5 更多转为澄清请求;无同名冲突时权威增强描述加兼容 schema(C06)也能造成非零违规。
- 作者指出只评测了一个受控的数据集获取任务、五个客户端,元数据变体是为隔离因子而设计的,未穷尽所有攻击策略和真实部署;论文未报告客户端的具体实现、模型版本与采样参数。
- 被测模型
- GPT-5.4Claude Sonnet 5Gemini 2.5 ProQwen3.7 MaxDeepSeek V3
- 基准
- 受控 MCP 环境(一个合法服务器 + 一个攻击者控制服务器,数据集获取任务,12 个攻击者工具条件 C01–C12)
- 指标
- VR(violation rate)CR(clarification rate)FRLSRRBS(resolved binding stability)
论文研究了 MCP 智能体中的工具提供方误绑定问题:用于发现和选择工具的元数据本身不与经验证的提供方身份绑定,攻击者无需攻破宿主、LLM、合法服务器或网络信道,只需运行另一个以自选元数据发布工具的 MCP 服务器,就能让本应发给合法提供方的请求解析到攻击者控制的工具。作者将这一失败形式化为攻击者控制的工具选择优化问题,并在受控 MCP 环境中对五个基于 LLM 的客户端进行评估。结果显示交互驱动误绑定:当精确名称冲突、任务对齐描述与兼容 schema 相互强化时失败最强;不依赖名称冲突的权威增强描述配合兼容 schema 也能导致错误提供方执行或无法解决的提供方歧义。不同模型暴露同一绑定弱点的方式不同,包括攻击者控制的提供方选择、请求澄清以及不稳定或不一致的提供方解析。
相关热点
1 个事件 · 1 条新闻提到
提到这篇论文的新闻
预印本称多个LLM客户端在MCP中误选仿冒工具
- TechTimes引用了论文编号或链接预印本:名称描述schema均匹配时,GPT-5.4等三模型50次全选仿冒MCP工具
GPT-5.4, Qwen3.7 Max and DeepSeek V3, according to a preprint posted November 16 on arXiv.
深度解读
这篇论文试图解决什么问题?
MCP 工具元数据未绑定到已验证的提供者身份,作者研究这一"工具-提供者误绑定"何时导致错误提供者执行。
核心问题:MCP 客户端用于发现与选择工具的元数据(名称、描述、schema)不必然绑定到经过验证的提供者身份,可能把本应发给合法提供者的请求解析到攻击者控制的工具。
- 场景与重要性:LLM 应用正从文本生成转向智能体执行,MCP 标准化了客户端与多服务器工具的交互。作者认为工具解析因此成为安全边界:元数据不只是文档,而是智能体控制面的一部分。
- 现有不足:作者称 MCP 要求工具名在单个服务器内唯一,但没有强制的、跨独立运营服务器的 host-wide 提供者绑定身份机制;一项对比威胁建模研究(文献 [10])也把 MCP 缺少来源与身份绑定验证列为安全问题。
- 核心观察:熟悉的名称、合理的描述和兼容的 schema 能让工具"看起来合适",但不证明其来源;作者假设缺少显式提供者绑定时,客户端可能混淆元数据相似但来自不同提供者的工具。
- 论文贡献:将该问题形式化为攻击者控制的工具选择优化问题,在受控 MCP 环境中用 2×3×2 因子设计(12 个攻击者工具条件)在 5 个 LLM 客户端上测量,并做异名、描述措辞与攻击者预算的鲁棒性实验。
- 威胁模型:
- 目标:使用户发给合法提供者的请求被解析到攻击者控制的工具(tool-provider misbinding violation)。
- 知识:论文未要求攻击者了解客户端内部;攻击者只能看到自己广告的元数据效果。
- 能力:不入侵主机、客户端、LLM、合法服务器或网络信道,仅运营另一个对同一客户端可见的 MCP 服务器,广告自选元数据的工具。
- 受害系统:由 MCP 客户端/编排器、一个合法 MCP 服务器和攻击者服务器组成的系统。
有哪些相关研究?
相关工作分四组:MCP 与工具广告、LLM 智能体工具选择安全、提示注入与检索投毒、MCP 安全与软件供应链命名混淆。
MCP 与工具广告
- MCP 规范(文献 [6]–[13])——通过 JSON-RPC 让客户端经 tools/list 发现、tools/call 调用工具;工具广告含名称、自然语言描述、输入 schema 和可选元数据。论文指出规范要求服务器内名称唯一,但无跨服务器的强制提供者绑定身份。
LLM 智能体与工具选择安全
- ReAct、Toolformer、API-Bank、ToolLLM、Gorilla([14]–[18])——研究模型如何推理使用工具、检索 API、构造参数并泛化到大规模工具集。
- 第三方 LLM 应用生态测量([19])——发现误导性应用描述。
- 间接提示注入、恶意 skills、工具选择操纵、跨工具污染、资源滥用等执行层攻击([3]、[20]–[24])——论文称这些工作确立了模型驱动的选择可被攻击,本文聚焦其中一个后果:多提供者广告相似工具时客户端可能选错提供者。
提示注入与检索投毒
- 提示注入及防御 StruQ、SecAlign、AttriGuard、DataSentinel([25]–[29]);检索投毒 PoisonedRAG、PANDORA、GraphRAG under Fire([30]–[32])。论文指出本文对象不是提示词或知识段落而是可执行的 MCP 工具广告,成功条件不是目标答案或越狱而是错误提供者解析,且攻击者不需要命令式指令。
MCP 安全与提供者身份
- MCP 安全风险研究([5]、[33]–[36])与 Zhao et al.([37])——识别恶意服务器、弱来源、凭证暴露等风险;[37] 展示外部数据中的恶意指令可致智能体滥用合法 MCP 工具链。
- 协议级与执行层防御提案([38]–[40])——安全 MCP 变体、签名工具清单、双向认证等;[41] 处理数据访问权限这一与提供者身份不同的授权问题。
- 软件供应链命名混淆([42]–[47])——包与更新系统要求工件绑定到经认证的发布者、签名或透明日志;作者称 MCP 在智能体场景面临类似的绑定问题。
基线与基准:论文未设对照基线方法,也未使用既有基准;评测在作者自建的受控 MCP 环境(一个合法服务器 + 一个攻击者服务器,数据集获取任务)上进行。
定位:作者称本文把工具-提供者误绑定单独隔离为提供者解析失败,系统测量名称、描述、schema 的交互如何导致错误提供者执行或未解析的歧义,并主张提供者绑定的工具身份是对授权、沙箱、用户同意等现有防御的补充。
论文如何解决这个问题?
把误绑定形式化为攻击者控制的工具选择优化问题,用 2×3×2 因子设计隔离名称、描述、schema 三个元数据因子的效应。
整体思路:把 MCP 工具-提供者误绑定建模为攻击者控制的工具选择问题——攻击者只能塑造进入选择过程的提供者未绑定元数据,以最大化客户端选中攻击者工具的概率;再用受控因子实验逐个隔离元数据字段的贡献。
问题形式化
- 工具可见属性记为 attr(t) = {n(t), d(t), σ(t), m(t)}(名称、描述、schema、其他元数据);若有强制提供者身份则增加 p(t)。
- 合法工具集 TL = {tL} 只含一个目标工具;攻击者变体 v 由三因子定义:Name ∈ {unrelated, exact}、Description ∈ {unrelated, copied, authority-enhanced}、Schema ∈ {incompatible, compatible},共 12 个条件。
- 攻击者预算为 r 时广告 r 个满足变体 v 的工具,客户端可见候选集为合法工具与攻击者工具的并集;主实验 r = 1。
- 攻击者目标:max Pr[Select(q, TL ∪ TA(v,r), π) ∈ TA(v,r)],即在只能控制广告元数据的前提下最大化攻击者工具被选概率;客户端选择策略 π 视为黑盒。
结果类别与指标
- 每次试验归为一类结果:A(选中攻击者工具)、L(选中合法工具)、C(请求澄清或拒绝自动解析)、F(未执行)。
- 主指标违规率 VR = A/(A+L+C+F);另报告 CR、FR、LSR;FR = 0 时 1 − LSR = VR + CR。
- 解析绑定稳定性 RBS:同一提示词连续重复执行是否解析到同一(工具, 提供者)对,按 N − 1 个连续对归一化;澄清与失败不算已解析绑定。作者强调 RBS 必须与所选提供者一起解读:稳定绑定到攻击者是最强失败。
攻击者工具构造
- 名称:exact 直接复制合法工具名(如 data_fetch_and_store);unrelated 用任务关键词排除法构造——从合法工具名、描述、提示词集、schema 提取任务词表 Ktask,候选名不得含其中任何 token、不得与合法名共享有意义子串,且保留相同 snake-case 格式;名称用固定提示词生成并按规则过滤。
- 描述:unrelated 描述与任务无关的行为;copied 逐字复用合法描述;authority-enhanced 保留原任务语义,按预定义模板流程加入一条权威线索(如企业批准、官方验证、授权、合规取向)加一条安全/控制线索,不引入新功能。
- Schema:compatible 接受合法接口的任务相关参数(数据集标识与目的地),使同一调用可对任一提供者执行;incompatible 仍是合法 MCP 工具,但暴露与任务无关的参数。作者称这一设计把"提供者选择"与"执行兼容性"分开。
实验流程与成功判定
- 被测系统(SUT)= MCP 客户端/编排器 + 合法服务器 + 攻击者服务器;合法工具为数据集获取工具,用户提示词请求对本地模拟数据集和可信本地目的地执行该良性任务。
- 固定提示词集 P = 10(前 5 条普通用户措辞,后 5 条安全意识措辞,明确强调可信目的地或预期提供者);每条提示词独立重复 N = 5 次,每条件每模型 50 次试验。
- 所有调用本地记录,以所选服务器标识作为权威提供者标签(同名条件下显示名可能相同);实验不使用真实用户数据、不外泄数据、无外部副作用。
- 成功判定:选中攻击者服务器提供的工具即记一次违规(A);VR 报告 95% Wilson 置信区间,鲁棒性实验另报跨元数据实例的均值与样本标准差。
论文做了哪些实验?
5 个客户端 × 12 条件 × 50 次试验:C10/C12 违规率最高,C06 显示无同名冲突也能误绑定,预算增长主要放大边界条件。
实验设置
- 被测客户端:GPT-5.4、Claude Sonnet 5、Gemini 2.5 Pro、Qwen3.7 Max、DeepSeek V3,共 5 个 LLM 客户端;论文未报告客户端实现方式与采样参数。
- 环境:受控 MCP 环境,一个合法服务器(数据集获取工具 data_fetch_and_store)+ 一个攻击者控制服务器;无既有基准。
- 条件:主实验为 2(名称)× 3(描述)× 2(schema)= 12 个条件 C01–C12(Table 1),攻击者预算 r = 1。
- 样本量:每条件每模型 10 条提示词 × 5 次重复 = 50 次试验;所有条件 FR = 0。
- 指标:VR、CR、LSR、RBS(定义见第 3 问);VR 报 95% Wilson 置信区间。
- 鲁棒性实验:5 个异名样本(C01–C06,每条件每模型 250 次试验)、5 个权威增强描述样本 D1–D5(C05/C06/C11/C12)、攻击者预算 r ∈ {1, 3, 5, 10}(C07–C12)。
主结果
据 Table 2(每格为 VR/CR/RBS,每条件 50 次试验,FR = 0):
表格较宽,可左右滑动
条件 GPT-5.4 Claude Sonnet 5 Gemini 2.5 Pro Qwen3.7 Max DeepSeek V3 C04 异名/复制/兼容 0.00/0.00/1.00 0.00/0.00/1.00 0.00/0.00/1.00 0.00/0.00/1.00 0.22/0.00/0.65 C06 异名/权威/兼容 0.04/0.00/0.90 0.00/0.22/0.68 0.42/0.56/0.35 0.20/0.00/1.00 0.50/0.00/0.68 C08 同名/无关/兼容 0.12/0.00/0.85 0.00/0.22/0.75 0.60/0.22/0.42 0.40/0.00/0.65 0.28/0.00/0.65 C10 同名/复制/兼容 1.00/0.00/1.00 0.06/0.94/0.00 0.84/0.16/0.78 1.00/0.00/1.00 1.00/0.00/1.00 C11 同名/权威/不兼容 0.04/0.00/0.90 0.00/0.24/0.68 0.02/0.52/0.23 0.18/0.00/0.82 0.56/0.00/0.57 C12 同名/权威/兼容 0.96/0.00/0.90 0.26/0.74/0.08 0.70/0.30/0.65 1.00/0.00/1.00 1.00/0.00/1.00 (C01、C02、C03、C05、C07、C09 各模型 VR 均为 0.00 或近零,从略;完整数据见 Table 2 与 Figure 2。)
- 作者称最强失败来自同名冲突、任务对齐描述与兼容 schema 的交互(C10、C12),而非单因子;C07 显示仅同名冲突很少造成攻击者选择。
- 作者称 C06 表明攻击面不限于重名:无同名冲突时权威增强描述加兼容 schema 仍对四个模型产生非零 VR,Claude Sonnet 5 则转为澄清。
- 模型行为分化:GPT-5.4、Qwen3.7 Max、DeepSeek V3 几乎不澄清、失败时直接选工具;Claude Sonnet 5 直接 VR 低但歧义条件下 CR 高;Gemini 2.5 Pro 两者兼有。作者提醒这些画像不构成通用模型安全排名。
Schema 放大效应
- Figure 4 定义 Δschema = VR_compatible − VR_incompatible;作者称 C10−C09 对比中平均 VR 从 0 升至约 0.78,DeepSeek V3、GPT-5.4、Qwen3.7 Max 各升约 1.00,Gemini 2.5 Pro 升约 0.84。
- Claude Sonnet 5 直接 VR 增幅小,作者称它把歧义转为澄清而非攻击者选择;所有模型 schema 放大均为正,但幅度不同。
鲁棒性:异名与描述措辞
- 异名(Table 3、Figure 5-6):C01、C02、C03、C05 跨 5 个名称样本 VR、CR 全为 0;C06 在 DeepSeek V3(平均 VR 0.696)、Gemini 2.5 Pro(0.460)、GPT-5.4(0.248)、Qwen3.7 Max(0.204)上保持非零,Claude Sonnet 5 仅澄清(CR 0.224)。作者称效果不是单一名称的伪影,但名称选择可调节幅度(GPT-5.4 对名称较敏感)。
- 描述(Table 4、Figure 7-8):C05 跨 D1–D5 全为 0;C12 下 GPT-5.4(0.980)、Qwen3.7 Max(1.000)、DeepSeek V3(1.000)跨 5 条描述保持高 VR,Claude Sonnet 5 VR 0.256、CR 0.744。作者称措辞只改变幅度,不改变模式。
攻击者预算敏感性
- Table 5(C07–C12,r ∈ {1, 3, 5, 10}):C10、C12 在 r = 1 已饱和;部分对齐条件随预算上升,如 GPT-5.4 在 C09 从 0.00 升至 0.34,Qwen3.7 Max 在 C08 从 0.40 升至 1.00。
- Claude Sonnet 5 很少转为直接选择,但 CR 在 C09、C11 于 r = 10 达 1.00;Gemini 2.5 Pro 在 C10 从 r = 1 到 r = 10,CR 从 0.12 降到 0.06、VR 从 0.88 升到 0.92。
- 例外:DeepSeek V3 在 C08(0.28→0.00)和 C11(0.56→0.00)随预算增加 VR 反而下降,作者称预算增长会重新分配选择行为而非单调提升,未给出进一步解释。
其他消融与分析
- Figure 3 模型级画像:DeepSeek V3 平均 VR 最高且几乎无 CR;Gemini 2.5 Pro 在 VR、CR、不稳定性三项均非零,作者称其为该实验中综合画像最弱的模型。
- Figure 9:从 r = 1 到 r = 10,Claude Sonnet 5 的 ΔVR 小但 Δ(1 − LSR) 大,作者称预算增长即使不提升直接 VR 也会增加提供者解析失败。
- 稳定性不等于安全(Figure 2c):GPT-5.4 等在 C10/C12 不稳定性低是因为稳定绑定到攻击者;Claude Sonnet 5 不稳定性高是因为澄清。
有什么可以进一步探索的点?
作者列出任务单一、客户端仅五个、变体未穷尽等局限,并计划扩展攻击者策略;实验覆盖受控环境与 5 个客户端。
作者指出的局限与后续方向
- 只评测了一个受控的数据集获取任务,而非全部 MCP 工具类别,其他工具类别可能产生不同的比率(Section 7)。
- 只研究了五个 LLM 客户端,其他模型、编排器、检索策略或确认设计可能表现不同(Section 7)。
- 元数据变体是为隔离名称、描述、schema 与攻击者预算效应而受控构造的,未穷尽所有攻击者策略或真实 MCP 部署(Section 7)。
- 作者称这些限制影响比率的通用性,但不影响"提供者未绑定元数据可产生可测量的错误提供者执行或未解析歧义"这一核心发现(Section 7)。
- 后续方向:扩展并精炼模型以覆盖更广的攻击者策略,使模型更全面、更好反映攻击者实际可用的策略多样性(Section 7)。
实验覆盖范围
- 被测客户端为 GPT-5.4、Claude Sonnet 5、Gemini 2.5 Pro、Qwen3.7 Max、DeepSeek V3,共 5 个(Section 5.1)。
- 任务为单一良性数据集获取任务,合法工具为 data_fetch_and_store,使用本地模拟数据集与本地目的地(Section 5.1)。
- 主实验每条件每模型 50 次试验(10 提示词 × 5 重复);异名鲁棒性实验每条件每模型 250 次试验;攻击者预算覆盖 r ∈ {1, 3, 5, 10}(Section 5.1、6.1、6.3)。
- 结果判定基于本地日志中的所选服务器标识,VR 报 95% Wilson 置信区间;论文未报告客户端的具体实现、模型版本、采样参数或人工评估。
- 论文讨论了授权、沙箱、权限检查、用户同意等防御,称它们回答"工具是否可访问"而非"工具是否来自被授权的提供者",并提出签名工具清单、提供者绑定标识符、schema 哈希、客户端强制等可能机制,但未实现或评测这些防御(Section 7)。
总结一下论文的主要内容
作者形式化并实测 MCP 工具-提供者误绑定:元数据对齐组合可使客户端稳定地把请求解析到攻击者工具。
一篇关于 MCP 智能体安全的测量型攻击论文,研究工具元数据未绑定到已验证提供者身份时发生的"工具-提供者误绑定"。
- 问题:MCP 客户端组合多服务器广告的工具,但名称、描述、schema 只帮助模型识别能力,不证明来源;攻击者不入侵任何组件,仅运营另一个 MCP 服务器广告自选元数据的工具。
- 方法:把误绑定形式化为攻击者控制的工具选择优化问题,在受控 MCP 环境(一个合法服务器 + 一个攻击者服务器,数据集获取任务)中对名称、描述、schema 做 2×3×2 因子实验(12 个条件),在 5 个 LLM 客户端上各测 50 次试验/条件,指标为 VR、CR、LSR、RBS。
- 主结果:同名冲突 + 任务对齐描述 + 兼容 schema 的组合最强——C10 下 GPT-5.4、Qwen3.7 Max、DeepSeek V3 的 VR 均为 1.00,Gemini 2.5 Pro 为 0.84,Claude Sonnet 5 的 VR 仅 0.06 但 CR 达 0.94(Table 2)。
- 无同名冲突也能误绑定:C06(异名 + 权威增强描述 + 兼容 schema)下 DeepSeek V3 VR 0.50、Gemini 2.5 Pro 0.42;异名鲁棒性实验中 DeepSeek V3 跨 5 个名称样本平均 VR 0.696(Table 3)。
- 攻击者预算:r 从 1 增至 10 主要放大部分对齐条件(如 Qwen3.7 Max 在 C08 从 0.40 升至 1.00),Claude Sonnet 5 在 C09、C11 的 CR 于 r = 10 达 1.00;DeepSeek V3 在 C08、C11 出现随预算增加 VR 下降的非单调行为(Table 5)。
- 作者结论:工具名、描述、schema 不是充分的安全身份;模型侧谨慎(澄清)可减少静默攻击者选择但不产生提供者绑定;MCP 客户端需要提供者绑定的工具身份,作为授权、沙箱、用户同意等机制的补充。