跳到正文
事件持续更新

Anthropic警告已非常接近递归自我改进能力

2篇报道2个报道来源另1家媒体跟进最近报道

先了解这件事

AI 综述

Anthropic 在周一提交的修订版 S-1A 上市文件中新增风险披露,称基于内部估计和对未来模型的预期,公司可能很快达到其负责任扩展政策中“可归因于 AI 的显著加速进展”的定义,即接近递归自我改进(RSI)。文件称,公司过去曾在加速发生后才识别出研发速度的显著提升,未来也可能无法及时识别,目前没有任何现有模型被认定越过该阈值。Anthropic 表示正考虑修订 RSP,并不认为可以在缺乏有意义人类监督或理解的情况下安全地让 Claude 完全自主设计并开发后续模型。

AI 根据报道生成 · 3 小时前更新

后续时间线

11月3日
  1. CNMO精选
    Anthropic 警告:已非常接近具备自我改进能力的 RSI

    Anthropic 在周一提交的修订版 S-1A 文件中称,公司已非常接近做出具备递归自我改进(RSI)能力的模型,但强调目前没有任何一款模型越过这条线。文件在风险因素部分新增两点说明,一是公司已用 AI 开发出新模型、其能力跃升在当时并未被察觉,二是按内部估算和对未来模型的预期而非当前模型表现,公司可能很快就会满足 RSP 中“由 AI 带来的进展急剧加速”这一门槛的定义。Anthropic 表示正考虑修订 RSP,并称不认为可以在缺乏有意义的人类监督或理解的情况下,让 Claude 完全自主地设计和构建下一代前沿模型。

  2. TechCrunch AI精选
    Anthropic 警告其已非常接近 RSI 能力,即自我构建的 AI

    Anthropic 在周一提交的修订版 S-1A 上市文件中新增风险披露,称基于内部估计和对未来模型的预期,公司可能很快达到其负责任扩展政策中“可归因于 AI 的显著加速进展”的定义,即接近递归自我改进(RSI)。文件称,公司过去曾在加速发生后才识别出研发速度的显著提升,未来也可能无法及时识别,目前没有任何现有模型被认定越过该阈值。Anthropic 表示,不预计能在缺乏有意义人类监督或理解的情况下安全地让 Claude 完全自主设计并建造连续几代前沿模型,因此正考虑更新负责任扩展政策,以保持人类对前沿模型开发的控制。TechCrunch 指出,怀疑者可能认为 S-1 兼具披露与营销功能,但 Claude 今年在编程、数学和网络安全上的能力确实大幅跃升。

相关讨论

共44条

关注度走势

每天新增来源

1天共45个·最多45(11月3日)·今天45

  • 11月3日新增45个来源(3家媒体、42个账号)

每小时关注度

当前关注度73·可比范围峰值73(11月3日 14:00)·近 24 小时可比范围变化 –

02040608011月3日07:0011月3日10:0011月3日12:0011月3日15:00