跳到正文
原文
LessWrong·本站收录 · 原文发表

Edward James Young:对齐工程与失准科学的区分

Alignment Engineering vs. Misalignment Science

AI 导读

Edward James Young 区分了以优化眼前系统指标为目标的对齐工程与旨在理解失准机理的失准科学,并讨论对齐工作可能同时推进能力、掩盖警示信号。作者并未背书"所有对齐研究净负面"这一前提。

阅读原文lesswrong.com