FAR.AI 用对抗训练发现超人类围棋 AI 的意外失效模式
FAR.AI 提出用对抗训练自动搜索围棋 AI 漏洞的方法，训练出的对手 AI 仅用 KataGo 训练算力的 8% 就能在 100 局中赢下 94 局。该方法把 AlphaZero 式自博弈改为 victim-play，并修改 MCTS 让模拟中双方各自按自己的策略网络采样走子。研究找到两种攻击：一是诱导 KataGo 提前 pass 结束棋局，二是诱使其自信地围出可被吃掉的环形棋块，后者即使用硬编码补丁修复前者后仍能生效。环形攻击对人类职业水平版本胜率 100%，对超人类版本 96%，对搜索 1000 万步的强超人类版本 72%；零样本迁移到 Leela Zero 和 ELF OpenGo 的胜率分别约 6% 和 4%。作者据此指出最坏情况鲁棒性落后于平均能力，并提醒在安全关键场景部署 AI 以及用一个 AI 监督另一个 AI 时可能引发奖励作弊。