Joe Carlsmith 谈我们如何解决对齐问题

Joe Carlsmith 在一组系列文章中提出解决对齐问题的路径：定义该目标为造出超级智能 AI 智能体并能安全引出其主要有益能力，同时避免失控场景，并列出"回避"与"处理"两种替代方案。他还给出 AI 权力寻求所需条件的分析框架，强调动机控制与选项控制的持续作用，并提出文明层面的三大安全因子——安全进展、风险评估与能力克制。第四篇文章主张"AI for AI safety"，通过 AI 安全反馈回路追赶或约束 AI 能力反馈回路，并指出存在一个既能大幅助力安全又尚不足以接管世界的"甜蜜区"。