Import AI 460：社会制度可被奖励作弊、Anthropic 的 RSI 数据与 RL 无人机竞速
Import AI 460: Reward hacking society, RSI data from Anthropic; and RL-based quadcopter racing
AI 导读
本期 Import AI 汇总了三项研究：伦敦国王学院、复旦大学与 Alan Turing Institute 构建了 SocioHack 基准，用 72 个沙盒社会环境测试 AI 在信用卡积分、学校评分等场景中钻制度空子的能力，其中 32 个历史环境取自真实法规被修补前的漏洞，RL 训练下模型能以 61.25% 召回率和 90.85% 精确率重新发现这些历史漏洞。Anthropic 方面称观察到 2026 年合并进代码库的代码量相比 2021 至 2024 年增长 8 倍，该趋势始于 2025 年并在 2026 年加速，但作者认为尚无证据表明模型能提出推动领域前进的范式级想法。