AI Safety Daily:新研究揭示智能体冷启动安全缺口与多智能体辩论一致性错觉
[AI Safety Daily] AI Safety Daily — June 10, 2026
AI 导读
AI 安全论文显示,工具调用智能体在会话开始时的安全水平比常规任务完成后低 9–52%(SODA 基准)。多智能体辩论中,标准协议减少表面矛盾却降低推理一致性,CARA 指标用于测量该推理对齐。RUBAS 用四维评分给出可解释的智能体安全 RL 奖励;Hide-and-Seek 在 OpenVLA、π₀、π₀.₅ 上定位轨迹失败动作。