分析与理论arXiv 2610.02480
MEA:面向忠实模型解释的奖励驱动多智能体系统
提出奖励驱动多智能体系统 MEA,生成可扰动核对的忠实解释
- arXiv
- 2610.02480
- 发表
- 层
- 应用层
- 场景
- 多智能体
摘要MEA 用忠实性奖励训练双智能体,把工具输出收成可扰动核对的解释。
MEA 是一个奖励驱动的双智能体,用来给黑盒分类器的单次预测写自然语言解释,并检查解释能否被扰动后的模型行为支持。
提出奖励驱动多智能体系统 MEA,生成可扰动核对的忠实解释
MEA 是一个奖励驱动的双智能体,用来给黑盒分类器的单次预测写自然语言解释,并检查解释能否被扰动后的模型行为支持。
量化异构模型在一次分歧交换后对分类判断的同伴影响
这篇工作测量异构语言模型智能体在共同分类任务上的单次同伴影响,而不是评多智能体系统的整体基准分。
定位:用统计力学描述语言模型智能体社群的意见动力学,并从初始意见预测后续轨迹。
作者用一个只含四类行为的意见动力学,解释 LLM 团队讨论何时优于多数投票、何时停在错误共识。