MEA:面向忠实模型解释的奖励驱动多智能体系统
提出奖励驱动多智能体系统 MEA,生成可扰动核对的忠实解释
- arXiv
- 2610.02480
- 发表
- 层
- 应用层
- 场景
- 多智能体
- 测试
- Qwen3.6-35B-A3B、Qwen3.5-4B、Qwen3-VL-30B-A3B-Instruct 等 15 个
摘要MEA 用忠实性奖励训练双智能体,把工具输出收成可扰动核对的解释。
MEA 是一个奖励驱动的双智能体,用来给黑盒分类器的单次预测写自然语言解释,并检查解释能否被扰动后的模型行为支持。
提出奖励驱动多智能体系统 MEA,生成可扰动核对的忠实解释
MEA 是一个奖励驱动的双智能体,用来给黑盒分类器的单次预测写自然语言解释,并检查解释能否被扰动后的模型行为支持。
量化大推理模型主动自报误行为并接受监控的意愿
摘要大推理模型缺乏自报意愿,偏好宽容通道并掩盖严重度,需专门对齐。
证明短开头词可唤醒基模型推理,且效应来自训练数据
测量三种长度压力训练对 CoT 忠实性与可监控性的影响
这项工作比较三种缩短 CoT 的 RL 训练,看监督用的推理痕迹还剩多少。
用 CDPG 与 BTM 追踪思考如何改变反事实公平翻转
用 advantage 衡量思维链步骤重要性,检验文本能否解码
作者用强化学习中的 advantage 比较 CoT 步骤“看起来重要”和“实际改变答案概率”是否一致。
分析隐蔽推理在思维链监控下的信息足迹下界与不可读性
摘要论文从理论与实证探明了思维链监控的边界:复杂隐蔽计算必然泄露信息足迹且需承担长度税,但该足迹可被在线加密而不可读。
证明 RLVR 后训练允许无界语言漂移且限制漂移必限制奖励
论文从理论与实验两方面研究了大语言模型在 RLVR 后训练过程中思维链出现的语言漂移现象。
检查正确答案对应的思维链是否构成合法推导
iGSM 上的程序可检查实验:正确答案并不保证思维链是合法推导。。作者针对一个被用于监测和解读的假设:发出的轨迹忠实于、或至少可靠相关于模型如何得到答案。
用续写扰动衡量思维链对答案的因果约束如何随任务难度变化
摘要在所测续写干预与模型中,思维链对答案的约束随任务和后训练条件而变。
把口头评测感知分成能力与安全框架并检验对服从的预测
作者分析 Qwen3-32B 在安全评测中的口头 eval-awareness,认为它不是单一、行为上均匀的量。
界定单迹监控对 2-safety 超性质的可检测前沿与监督缺口
论文测量单迹安全监控相对 2-safety 超性质能看见多少:跨租户泄漏、觉察到被评估、策略性表现不佳都由两次执行之差定义,一条轨迹装不下判定。