Debate to Deceive：用博弈论多智能体辩论对大语言模型事实核查投毒
Debate to Deceive: Poisoning LLM's Fact-Checking via Game-Theoretic Multi-Agent Debate
AI 导读
研究者提出针对大语言模型事实核查的知识攻击框架 Debate-to-Deceive（D2D），通过多智能体辩论生成语义连贯、修辞有效且能避免早期确认偏差的对抗文本，用以操纵事实核查判断。该框架将对抗过程形式化为演化博弈，智能体在紧凑策略空间中经演化式学习动态选择 Logos、Pathos、Ethos 修辞动作，再由大语言模型依据策略和辩论上下文生成具体文本。在 FEVER、HealthVer、CLIMATE-FEVER 和 SciFact 四个事实核查基准上，D2D 显著优于对抗后缀、模板注入和单智能体自我反思等现有攻击，并绕过大多数防御。