哈佛 CS 2881 2026 秋季第 4 讲：递归自我改进与 AI 轨迹
CS 2881 Fall 26: Lecture 4: Recursive Self-Improvement and AI Trajectories
AI 导读
哈佛 CS 2881R《AI 对齐与安全》第 4 讲课堂笔记聚焦递归自我改进与 AI 轨迹，特邀 Dwarkesh Patel 与 Daniel Kokotajlo 主讲。笔记结合预读材料《AI 2027》称，AI 一旦能协助改进后继系统将形成进展加速的反馈环，该情景预计自动化 AI 研发叠加递归自我改进可在 2027 年实现 ASI。笔记还指出 METR 的 time horizon 基准不确定性大，基准分数可能因运气、漏洞或应试策略而无法反映真实能力。