跳到正文
原文
AI Alignment Forum· Zhiyang Xun·本站收录· 原文发表

面向可扩展监督的更简单且更优的辩论协议

A Simpler and Better Debate Protocol for Scalable Oversight

AI 导读

研究者提出面向可扩展监督的新辩论协议 FBS Debate,称其规则更简单,却比 prover-estimator debate 给出更强的正确性保证。协议中第一位辩论者把原命题拆成子命题,第二位要么指出该拆解对子命题的微小错误过于敏感,要么随机抽取一个子命题继续递归辩论,直到由人类直接判断某个子命题。论文用分数块敏感度刻画递归辩论所需的验证算力,称诚实策略在每个问题上都是最优,并称在把人类判断视为黑箱的前提下没有协议能渐进地更高效。作者认为这些结论对不使用 FBS Debate 的辩论实验也有参考价值。

相关论文
阅读原文alignmentforum.org