跳到正文

可解释性 · News

10月12日 · 周一

可解释性 · News

按原发与事件进展排列
9月30日周三
  1. Neel Nanda · 25

    SAE 现状:有用但不够

    一篇关于 SAE 当前状态的好帖——有用,肯定没死,但单靠它不够。

  2. Neel Nanda · 28

    Neel Nanda:可解释性尚不足以被依赖

    我坚持这一观点——可解释性可能意义重大,也确实足够有用,但远未达到任何人应当依赖我们来确保一切顺利的质量和可靠性水平。

2025年3月14日周五
  1. Joe Carlsmith · 14

    Joe Carlsmith 论 AI for AI safety:用前沿 AI 劳动加固对齐安全因素

    Joe Carlsmith 在系列文章第四篇中提出"AI for AI safety",即用前沿 AI 劳动强化安全进展、风险评估与能力约束三大安全因素,以让 AI 安全反馈回路追上或约束 AI 能力反馈回路。他提出"AI for AI safety 甜蜜点"概念,指前沿系统足以大幅改善安全因素、但尚不足以在现有对策下剥夺人类权力的能力区间,并指出该窗口未必存在且难以持久。文章最后列出最严重的担忧,包括诱导/评估失败、差异性破坏与危险的失控选项,以及时间与政治意愿等现实约束,并将在下一篇聚焦自动化对齐研究。

已经到底了