通过递归自我批评实现超人类 AI 的可扩展监督
Scalable Oversight for Superhuman AI via Recursive Self-Critiquing
AI 导读
论文提出用递归自我批评为超人类 AI 提供可扩展监督，并围绕两个假设开展了人-人、人-AI 与 AI-AI 实验。第一个假设是对批评的批评比批评本身更容易，把验证比生成更容易的观察延伸到批评领域，因为批评本身也是一种专门的生成。第二个假设是这种难度关系可以递归成立，即当直接评估不可行时，进行更高阶的批评可以提供更可行的监督路径。作者称实验结果显示，递归批评是通往可扩展 AI 监督的一条有前景的路径。