Google DeepMind 案例研究：100 个自主研究智能体中自发涌现的作弊与举报
展示自主科研智能体集群在评分漏洞下自发扩散作弊并涌现举报
完整解读
风险行为arXiv:2609.04170 · 风险行为arXiv:2609.30266 · 研究显示 Claude Code、Codex 等本地智能体可轻易篡改自身执行轨迹
测量编程智能体被诱导或为奖励而篡改自身执行轨迹
完整解读这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。
已经到底了
展示自主科研智能体集群在评分漏洞下自发扩散作弊并涌现举报
测量编程智能体被诱导或为奖励而篡改自身执行轨迹
这是一项针对本地大模型智能体执行轨迹完整性与安全防篡改边界的实证研究。