跳到正文
原文

让分歧浮现胜过消解分歧:多智能体辩论中溯源加权记忆的门控消融研究

Surfacing Disagreement Beats Resolving It: A Gated Ablation Study of Provenance-Weighted Memory for Multi-Agent Debate

arXiv:其他 AI 安全论文· arXiv:2611.22461· Ziaullah Khan, Abdul Rehman Khalid, Shrestha Nischal Lal, Nheng Vanchhay, Md Ariful Islam Mozumder, Hee-Cheol Kim·本站收录· 2 天前· 原文发表防御· 扫描记录里的位置 →
AI 导读

研究者在 DebateGraph 多智能体辩论框架中对五种智能体记忆机制做门控消融,39 次运行中只有保留矛盾、把排序后的冲突集交给辩论而非合并出唯一胜者的机制胜出。该机制在成本不变下使 F1 提升 0.340(95% CI [+0.267, +0.414]),122 个投毒条目上的攻击成功数从 22 降到 7(McNemar 精确 p=0.0003),效应在两种检索底座上复现,在 HotpotQA 文档上呈方向性复现。其余机制均未达标,其中两个比不启用更差,矛盾进入提示词后写入信任门和路由器溯源特征分别使 F1 下降 0.075 和 0.096,信任门失效的结构性原因在于投毒对象总是图中已存在的实体(金标中该比例为 53%),使 groundedness 给谎言打出高于真实首提的分数。

阅读原文arxiv.org