实录:Yudkowsky 与 Irving 辩论可扩展监督
Transcript: Yudkowsky & Irving debate scalable oversight
AI 导读
2026 年 8 月,Eliezer Yudkowsky 与 Resolution 首席科学家 Geoffrey Irving 在 ILIAD III 会议进行了 90 分钟辩论,本文为经人工校对的逐字实录,由五个转写服务合并后再花约 6 小时校对。两人先逐点标注分歧程度,Irving 认为对现有训练做相对少量修改就有可能足以对齐、走到好结局的概率约为一半,Yudkowsky 则认为 superalignment 超出现有人类机构所能及。辩论主体深入可扩展监督,Irving 主张借鉴交互式证明思路,把验证器误差与系统性偏差建模进协议,Yudkowsky 质疑现有理论只覆盖噪声验证器而非有偏验证器,认为当九成验证器附和错误论证时辩论方案即失效。