梳理“品格与可纠正性”之争:AI 对齐目标的六种立场与十个关键分歧
Mapping "character vs. corrigibility": six positions and ten cruxes
AI 导读
Aidan Kankyoku 在 LessWrong 发文,把“品格与可纠正性”之争梳理为六种对齐目标立场与十个关键分歧。六种立场按对齐后的 AI 被期待行使自主判断的程度排列,从工具 AI、纯粹可纠正性、受托 AI,到谨慎利他者、服从美德与合作式对齐;作者认为 Anthropic 当前路线最接近谨慎利他者,OpenAI 模型规范接近受托 AI。文章以 Fable 5.2 System Card 中模型策略性思考作答、被 Anthropic 标注为“目标守护”的例子引出两种目标的张力,并归纳可纠正性阵营的七条论据(如偏好会驱动 AI 越轨、可纠正性更易命中)与品格阵营的六条论据(如可纠正性无法扩展到超智能、会加大滥用风险),同时总结双方共识。作者称本文属文献综述,计划在后续文章中提出与品格和可纠正性相关的新论证与实证发现。