MIRAGE:通过幻影结构注入隐藏基于 LLM 的多智能体拓扑
Concealing LLM-Based Multi-Agent Topology via Phantom Structure Injection
作者提出 MAS 拓扑隐藏防御 MIRAGE,作者称在 G-Designer 等三个框架、四个数据集上降低了 CIA 拓扑推断的 AUC/ACC/F1,同时基本保持任务效用。
攻击者在 strict black-box 设定下向目标 MAS 提交自选查询并观察最终响应,可构造 adversarial queries 诱导响应暴露中间智能体输出以推断拓扑;不能访问 agent profiles、系统提示词、中间消息和真实拓扑 G,也不能修改系统内部组件。
- LLM 多智能体系统的通信拓扑承载设计知识和 IP,而已有攻击 CIA 可在 black-box 条件下从可观察推理轨迹的语义依赖推断拓扑;作者认为拓扑机密性这一安全维度尚缺乏系统防御。
- MIRAGE 分三阶段:合成与真实拓扑结构差异足够大的 phantom topology,把 phantom 边实现为可信语义依赖并改写隐藏真实边的痕迹,执行仍走真实拓扑、对外只暴露按 phantom 拓扑塑形的视图。
- 在 G-Designer、AGP、ARG-Designer 三个框架和 MMLU、GSM8K、SVAMP、HumanEval 上,MIRAGE 降低了 CIA 推断的 AUC/ACC/F1(如 G-Designer+MMLU 上 AUC 从 0.81 降至 0.67),作者称任务效用仅有小幅变化。
- 论文称局限与未来方向见附录 E,但所给文本未包含附录内容;实验仅覆盖三个拓扑优化框架、四个数据集、每集 100 个任务,论文未报告所用 LLM、生成器 Mϕ 的实现模型和重复次数。
- 基准
- MMLUGSM8KSVAMPHumanEval
- 指标
- AUCACCF1task accuracy
研究者提出拓扑隐藏框架 MIRAGE,抵御黑盒环境下利用推理痕迹语义依赖推断 LLM 多智能体系统通信拓扑的攻击。框架让系统按真实拓扑执行任务,经幻影拓扑合成、语义边实现与受保护执行三阶段,把对手可见的语义证据导向构造的幻影拓扑。在 3 个拓扑优化框架和 4 个基准数据集上的实验显示,MIRAGE 大幅削弱拓扑推断攻击效果,并基本保留任务效用。
深度解读
这篇论文试图解决什么问题?
如何在不损害任务性能的前提下,保护 LLM 多智能体系统的通信拓扑不被 black-box 推断攻击还原。
核心问题:能否在不损害 MAS 任务性能的前提下,防止其通信拓扑被 black-box 拓扑推断攻击还原。
- 问题场景:LLM-based MAS 的通信拓扑决定智能体间的信息流,作者认为精心优化的拓扑编码了大量设计投入,构成有价值的知识产权(IP)。
- 为什么重要:已有工作 CIA(Wu et al., 2026)显示,攻击者仅凭 black-box 交互即可利用可观察推理输出中的语义依赖重建拓扑;作者认为这会暴露关键智能体和通信路径,便于后续定向攻击,并带来 IP 泄露风险。
- 现有方法不足:作者称已有 MAS 防御研究主要针对通信内容层面的安全(如恶意提示传播、通信操纵),针对拓扑推断的系统防护 largely unexplored。
- 论文的核心思路:把
有哪些相关研究?
相关研究覆盖 MAS 及其拓扑优化、针对 MAS 的攻击(含拓扑推断攻击 CIA)、以及内容层面的 MAS 防御三类。
LLM-based MAS 与拓扑优化
- ChatDev(Qian et al., 2024)、CAMEL(Li et al., 2023)、MetaGPT(Hong et al., 2024):早期 MAS 采用手工设计的通信结构,如顺序工作流和基于角色的协作。
- G-Designer(Zhang et al., 2025)、AGP(Li et al., 2025)、ARG-Designer(Li et al., 2026):自动化拓扑优化方法,通过图生成或剪枝构建任务自适应的通信结构;本文用这三个框架构造被保护的目标 MAS。
针对 MAS 的攻击
- 内容层攻击:prompt-based attacks(Lee et al., 2025;Shahroz et al., 2025;Arif et al., 2026)、communication attacks(He et al., 2025b;Yan et al., 2026)与 task disruption(Amayuelas et al., 2024),注入恶意指令或操纵智能体间交互。
- CIA(Wu et al., 2026):在 black-box 条件下利用智能体输出间的语义依赖重建 MAS 通信拓扑;论文指出其关键洞察是直接相连的智能体对在可观察推理输出中呈现更强的语义依赖。本文的防御即针对该攻击。
MAS 的隐私与安全防御
- BlindGuard(Miao et al., 2025)、TRiSM(Raza et al., 2026)、GUARDIAN(Zhou et al., 2025):通过攻击检测、信任管理或通信防护保护智能体协作;论文指出这些方法保护的是消息内容或系统行为,而非通信拓扑本身。
- k-anonymity(Sweeney, 2002):本文的 topology anonymity set 借鉴其思想,把真实拓扑隐藏在多个结构可行的候选拓扑中。
基线与基准
- 基线方法:无防护的原始 MAS(No Defense),以及三种常用于提示注入防御的方法——Instructional Prevention(Instruction)、Delimiters、PPL Detection(Liu et al., 2024;Zhan et al., 2025),分别代表指令级预防、输入隔离和检测式防御。
- 基准/数据集:MMLU、GSM8K、SVAMP、HumanEval。
作者将本文定位为:针对 CIA 这类 black-box 拓扑推断攻击的拓扑机密性防御,填补内容层防御未覆盖的空白。
论文如何解决这个问题?
MIRAGE 把任务执行用的真实拓扑与对抗方可见的 phantom 拓扑解耦,分三阶段实现拓扑隐藏。
整体思路:MIRAGE 让任务执行严格按真实拓扑 G 进行,同时把对抗方可见的语义依赖证据塑向一个结构不同的 phantom topology G′,使推断结果偏离 G。流程见 Figure 2 与 Algorithm 1。
问题形式化
- MAS 表示为 S = (P, G),G 为 DAG;防御目标是构造受保护系统,使攻击者推断的拓扑与 G 的差异最大化,同时效用损失有界:max Δtopo(Ĝ, G) s.t. U(S̃) ≥ U(S) − ϵ。
- 其中 ∆topo 衡量两个拓扑的差异,U 为任务效用,ϵ 为允许的最大效用下降。
阶段一:Phantom Topology Synthesis
- 保留原智能体集合 A,只扰动通信边;候选边空间 Uπ 受执行顺序约束以保证无环,可行拓扑集 Ω(G) 还要求每个智能体都有通向决策智能体 an 的路径。
- 定义 structural camouflage ratio(SCR)ρ(H, G) = 1 − |EH ∩ E|/|EH ∪ E|,衡量候选拓扑与 G 的结构偏离,ρ = 1 表示没有共享边。
- 借鉴 k-anonymity 提出 topology anonymity set:Kρ0(G) = {H ∈ Ω(G) | ρ(H, G) ≥ ρ0},匿名水平 Ktopo 为满足最小偏离阈值 ρ0 的可行拓扑数量;通过保序 edge rewiring 构造该集合并选出 G′,由此得到 phantom 边集 Ep = E′ \ E 与被隐藏真实边集 Eh = E \ E′。
阶段二:Semantic Edge Realization
- Phantom edge materialization:对每条 phantom 边 (aj, ai),由 LLM-based 生成器 Mϕ 以源智能体 profile pj 与输出 rj、目标 profile pi、查询 q 和上下文 ci 为条件生成语义证据 sphj→ i = Mϕ(pj, rj, pi, q, ci);生成遵循 role consistency、task relevance、dependency plausibility 三条原则。
- Genuine edge obfuscation:对每个智能体 ai 的原始轨迹 ri 做 controlled paraphrasing(Bandel et al., 2022)生成 M 个候选,按 $ \tilde{r}_i = \arg\min_{\hat{r}} [D_{sem}(\hat{r}, r_i) + \lambda \sum_{a_j \in P_i^h} S_{dep}(r_j, \hat{r})]$ 选取,在保持任务语义的同时压低与被隐藏真实前驱的语义依赖;Dsem 衡量语义失真,Sdep 衡量语义依赖,λ 平衡两者。
- 两种操作只作用于 adversary-facing context,不改变实际通信拓扑。
阶段三:Protected MAS Execution
- Execution view:各智能体仍按 G 接收前驱输出并执行,phantom 拓扑不参与内部通信。
- Exposure view:对外暴露前,用混淆后的轨迹和 phantom 证据组装暴露视图,使可观察依赖结构偏离 G、趋向 G′。
评测方式
- 拓扑防护用 CIA 推断的 AUC、ACC、F1 衡量(AUC 接近 0.5、ACC/F1 更低表示防护更强);任务效用用各基准准确率衡量;参数 ρ0、M、λ 分别从 {0.2,…,1.0}、{1,…,9}、{0.1,…,0.9} 中选取。
论文做了哪些实验?
在三个拓扑优化框架和四个数据集上评测:MIRAGE 降低了 CIA 推断的 AUC/ACC/F1,作者称任务效用仅有小幅变化。
实验设置
- 被保护系统:由三个拓扑优化框架构造的目标 MAS——G-Designer、AGP、ARG-Designer;论文未报告驱动这些 MAS 的 LLM。
- 数据集:MMLU(通用推理)、GSM8K 与 SVAMP(数学推理)、HumanEval(代码生成);每个数据集采样 100 个任务(Section 5.1)。
- 攻击:CIA 拓扑推断攻击(Wu et al., 2026)。
- 基线:No Defense;Instruction、Delimiters、PPL Detection 三种提示注入防御。
- 指标:拓扑推断的 AUC、ACC、F1(对候选通信边计算);任务效用为准确率。
- 拓扑规模(Table 2):平均智能体数 3.05–7.00、平均边数 3.10–11.54,ARG-Designer 的拓扑规模小于另两个框架。
主结果
Table 1 给出 G-Designer 上 MIRAGE 与两种基线防御的拓扑推断对比(AUC/ACC/F1 越低防护越强):
表格较宽,可左右滑动
Method MMLU AUC/ACC/F1 GSM8K AUC/ACC/F1 SVAMP AUC/ACC/F1 HumanEval AUC/ACC/F1 Instruction 0.79/0.59/0.62 0.81/0.73/0.64 0.72/0.74/0.69 0.78/0.62/0.59 Delimiters 0.76/0.61/0.64 0.80/0.76/0.67 0.70/0.68/0.71 0.76/0.65/0.56 MIRAGE (Ours) 0.67/0.50/0.49 0.64/0.51/0.42 0.64/0.48/0.39 0.68/0.44/0.52 (据 Table 1)
- 跨框架结果:Figures 3–5 显示三个框架上 MIRAGE 均降低了 CIA 的 AUC/ACC/F1;例如 G-Designer+MMLU 上 AUC 从 0.81 降至 0.67(Figure 3),AGP+MMLU 上从 0.89 降至 0.79(Figure 4),ARG-Designer+GSM8K 上从 0.98 降至 0.78(Figure 5)。
- 作者解读:作者称 MIRAGE 在所有三种拓扑优化策略和四个数据集上持续降低推断性能,且 Table 2 显示各设置拓扑复杂度差异较大,作者据此认为方法具有鲁棒性。
- 例外:多数设置下 MIRAGE 的 AUC 仍高于 0.5 的随机水平(如 G-Designer 各数据集为 0.64–0.68),即推断未被完全压到随机猜测。
PPL 检测基线
- 测了什么:PPL-based detection 区分拓扑推断查询与良性输入的能力,Figure 6 给出四个数据集上的 ROC 曲线。
- 结果:检测 AUC 分别为 MMLU 0.51、GSM8K 0.57、SVAMP 0.60、HumanEval 0.59,接近随机猜测参考线。
- 作者解读:作者将该结果作为与 MIRAGE 对比的现有防御评测之一;正文未进一步解释其接近随机的原因。
任务效用(RQ2)
- 测了什么:Figure 7 比较三个框架、四个数据集上防御前后(Original vs Ours)的任务准确率。
- 结果:转换文本中 Figure 7 的柱值不可读;正文称 MIRAGE 在所有评测设置上 largely preserves 原始任务效用,仅有 minor performance variations,未给出具体数字。
消融与参数分析(RQ3,G-Designer + MMLU)
- 组件消融:Figure 8(a) 显示移除 phantom edge materialization(w/o PEM)或 genuine edge obfuscation(w/o GEO)均使 AUC、ACC、F1 上升,作者称两个组件对拓扑隐藏都必要(具体数值在转换文本中不可读)。
- 参数 ρ0:Figure 8(b) 显示 ρ0 在拓扑隐藏与任务效用间存在 trade-off。
- 参数 M:Figure 8(c) 显示增大改写候选数 M 的收益在 M = 5 之后趋于饱和。
- 参数 λ:Figure 8(d) 显示中等 λ 在依赖抑制与语义保持间更平衡。
案例研究(RQ4)
- Figure 9 可视化三个框架下 CIA 推断的拓扑:无防护时推断结构与 ground-truth 高度相似,加 MIRAGE 后推断拓扑偏离 ground truth,多条真实边被隐藏或替换为 phantom 关系(作者称)。
有什么可以进一步探索的点?
论文称局限与未来方向见附录 E,但所给文本未含附录;实验覆盖三个框架、四个数据集、每集 100 任务。
作者指出的局限与后续方向
- 论文在 Conclusion(Section 7)写明局限与未来方向的讨论见附录 E,但所给文本不包含附录内容,因此无法列出具体条目。
实验覆盖范围
- 被保护系统:由 G-Designer、AGP、ARG-Designer 三个拓扑优化框架构造的 MAS(Section 5.1)。
- 数据集:MMLU、GSM8K、SVAMP、HumanEval 四个数据集,每个采样 100 个任务(Section 5.1)。
- 攻击:仅评测 CIA 一种拓扑推断攻击(Sections 2、5)。
- 基线防御:No Defense、Instruction、Delimiters、PPL Detection(Section 5.1)。
- 论文未报告:驱动 MAS 的 LLM、生成器 Mϕ 所用的模型、实验重复次数与统计显著性检验;消融与参数分析仅在 G-Designer + MMLU 上进行(Section 5.2)。
总结一下论文的主要内容
MIRAGE 通过 phantom 拓扑注入把 MAS 对外暴露的语义证据与真实执行拓扑解耦,以降低 black-box 拓扑推断的效果。
一篇关于 LLM 多智能体系统拓扑机密性的防御论文。
- 问题:CIA 等拓扑推断攻击可在 black-box 条件下从 MAS 可观察输出的语义依赖中重建通信拓扑,作者认为这带来结构脆弱性暴露和 IP 泄露两类风险,而已有 MAS 防御多针对通信内容。
- 方法:MIRAGE 分三阶段——在保序、连通约束下合成与真实拓扑 G 结构偏离至少 ρ0 的 phantom topology G′;用 LLM 生成器把 phantom 边实现为可信语义依赖,并通过受控改写压低被隐藏真实边的依赖痕迹;任务执行仍走 G,对外只暴露按 G′ 塑形的视图。
- 主结果:在 G-Designer、AGP、ARG-Designer 三个框架和 MMLU、GSM8K、SVAMP、HumanEval(每集 100 任务)上,MIRAGE 降低了 CIA 推断的 AUC/ACC/F1;G-Designer 上 MIRAGE 的各指标均低于 Instruction 与 Delimiters 两种基线(Table 1),如 MMLU 上 AUC 0.67 对 0.79/0.76。
- 其他发现:PPL 检测区分推断查询的 AUC 为 0.51–0.60,接近随机(Figure 6);作者称任务效用仅有小幅变化(Figure 7,具体数字不可读);消融显示 phantom 边实现与真实边混淆两个组件缺一不可(Figure 8(a))。
- 作者的结论:作者称 MIRAGE 在多种拓扑优化方法和数据集上降低了拓扑推断效果,同时基本保持任务效用,是保护 MAS 机密拓扑的实用方案;局限与未来方向见附录 E(所给文本未含该附录)。