事件观察中
对齐工程与失准科学的区分
先了解这件事
AI 综述
Edward James Young 撰文区分了两类工作:以优化眼前系统指标为目标的对齐工程,与旨在理解失准机理的失准科学。文章讨论了对齐工作可能同时推进能力、掩盖警示信号的问题,但作者并未背书“所有对齐研究净负面”这一前提。
AI 根据报道生成 · 2 天前更新
最新进展10月5日 13:40
Young 区分对齐工程与失准科学,并讨论对齐工作可能推进能力、掩盖警示信号。后续时间线
10月5日
- LessWrongEdward James Young:对齐工程与失准科学的区分
Edward James Young 区分了以优化眼前系统指标为目标的对齐工程与旨在理解失准机理的失准科学,并讨论对齐工作可能同时推进能力、掩盖警示信号。作者并未背书"所有对齐研究净负面"这一前提。
相关讨论
关注度走势
每天新增来源
- 10月5日 新增 1 个来源(1 家媒体、0 个账号)
- 10月6日 新增 0 个来源(0 家媒体、0 个账号)
- 10月7日 新增 0 个来源(0 家媒体、0 个账号)