用图像辩论：检测多模态大语言模型中的欺骗行为
Debate with Images: Detecting Deceptive Behaviors in Multimodal Large Language Models
AI 导读
研究者提出 MM-DeceptionBench，论文称这是首个专门评估多模态大语言模型欺骗行为的基准，覆盖六类通过视觉与文本结合进行操纵和误导的欺骗。针对多模态欺骗的隐蔽性使行为监控和思维链监控基本失效的问题，论文提出 debate with images 多智能体辩论监控框架，迫使模型以视觉证据支撑其判断。实验显示该方法在所有受测模型上都提升了与人类判断的一致性，在 GPT-4o 上 Cohen's kappa 提升 1.5 倍、准确率提升 1.25 倍。