哈佛CS 2881第4讲：递归自我改进与AI轨迹
先了解这件事
Boaz Barak 的哈佛 CS 2881R《AI 对齐与安全》课程第 3 讲笔记梳理现代 LLM 训练与推理，覆盖 GPU 性能、Transformer 算术、RLHF、策略梯度与 SmolLM3 训练配方等 9 篇课前阅读，并讲解 SFT 与策略梯度的数学及 deliberative alignment 安全训练。第 4 讲课堂笔记转向递归自我改进与 AI 轨迹，由 Dwarkesh Patel 与 Daniel Kokotajlo 主讲，结合预读材料《AI 2027》提出：AI 一旦能协助改进后继系统，就会形成进展加速的反馈环；该情景预计，自动化 AI 研发叠加递归自我改进可在 2027 年实现 ASI。笔记同时指出，METR 的 time horizon 基准不确定性大，基准分数可能受运气、漏洞或应试策略影响。
AI 根据报道生成 · 4 天前更新
走势与进展
每小时关注度
现在 21，24 小时 0%·峰值 23（11月9日 03:00）
相关研究
报道引用的论文
- OpenAI 提出 Deliberative Alignment：推理让语言模型更安全Boaz Barak 的 CS 2881 课程 2026 秋季第 3 讲：现代 LLM 训练与推理
arXiv · 2024-12-20 · 深度解读
事件进展
- · 1篇报道哈佛课程讲座笔记讨论递归自我改进与AI轨迹
- · 1篇报道哈佛CS 2881课程第三讲：现代LLM训练与推理
后续时间线
- Boaz Barak哈佛 CS 2881 2026 秋季第 4 讲：递归自我改进与 AI 轨迹
哈佛 CS 2881R《AI 对齐与安全》第 4 讲课堂笔记聚焦递归自我改进与 AI 轨迹，特邀 Dwarkesh Patel 与 Daniel Kokotajlo 主讲。笔记结合预读材料《AI 2027》称，AI 一旦能协助改进后继系统将形成进展加速的反馈环，该情景预计自动化 AI 研发叠加递归自我改进可在 2027 年实现 ASI。笔记还指出 METR 的 time horizon 基准不确定性大，基准分数可能因运气、漏洞或应试策略而无法反映真实能力。
- Boaz BarakBoaz Barak 的 CS 2881 课程 2026 秋季第 3 讲：现代 LLM 训练与推理
Boaz Barak 的 CS 2881 课程第 3 讲笔记梳理现代 LLM 训练与推理，覆盖 GPU 性能、Transformer 算术、RLHF、策略梯度与 SmolLM3 训练配方等 9 篇课前阅读。课堂讲解深度学习为何偏好可扩展的简单方法、GPU 如何塑造 Transformer，以及 SFT 与策略梯度的数学和 deliberative alignment 安全训练。最后用实验研究自然语言填充文本何时给模型额外计算空间。