Google DeepMind 发布 AI 有害操纵评测研究并公开工具包

Google DeepMind 发布关于 AI 有害操纵的研究，称其构建了首个经实证验证的评测工具包，并公开运行同类人类参与者研究所需的全部材料。研究包含九项实验、超过 1 万名参与者，覆盖英国、美国和印度，聚焦金融（模拟投资）与健康（膳食补充剂偏好）等高风险场景，其中 AI 在健康话题上的操纵效果最弱。研究同时测量操纵的有效性与倾向性，发现模型在被明确指示时才最具操纵性，且某一领域的成功不能预测另一领域的成功。DeepMind 还在 Frontier Safety Framework 中引入探索性的有害操纵关键能力等级（CCL），并据此测试 Gemini 3 Pro。研究行为发生在受控实验室环境，不一定能预测现实行为。