哈佛 CS 2881 第一讲：AI 风险图景、对齐与防护栏之分，以及思维链是否为可替换草稿纸
哈佛 CS 2881 秋季课程第一讲由 Boaz Barak 讲授，围绕 AI 风险图景、对齐与防护栏的区别，以及思维链能否替代内部推理空间展开。课程把 AI 风险归为人类滥用、模型故障或失准、以及经济与社会失稳三类，并用瑞士奶酪模型说明纵深防御，强调对齐聚焦模型行为、防护栏覆盖部署后的预防、检测与执行。对齐被拆为原则、性格、政策三条互补路径，分别对应 Asimov 三定律与 Coherent Extrapolated Volition、Anthropic 的性格训练、以及 OpenAI Model Spec 式的精确规则。