支持加速 AI 概念推理能力的基本论证

Redwood Research 的 Emery Cooper 撰文论证应差异化加速 AI 的概念推理能力，即类似哲学、难以直接验证、主要靠论证推进的任务。文章认为对齐等重要工作离不开这类推理，而 AI 研发和接管对其依赖小得多，因此加速它对安全工作的帮助大于对通用能力。作者称默认训练以易验证任务为主、公司缺乏商业激励，概念推理容易被忽视，其实验显示少样本提示和小规模训练可让模型在其概念论证基准 LMCA 上提升三到十二个月。作者预计这类工作对通用能力外溢较小，目前主要产出概念推理数据集与基准，通过 Conceptual Reasoning Index 网站发布，优先方向包括技术 AI 安全、决策论和 safe Pareto improvements，并招募研究者参与。