跳到正文
原文
Martin Cid Magazine·本站收录· 原文发表· 治理 →· 扫描记录里的位置 →精选关注度46

Anthropic 依预期判定 AI 已达到自我改进门槛,启动安全规则

앤트로픽, AI 자기개선 기준 넘었다고 판단…안전 규칙 발동

AI 导读

Anthropic 在修订后的 IPO 招股书中称,已达到其内部政策 Responsible Scaling Policy(RSP)设定的 AI 研发能力门槛,并据此启动相应安全规则。该政策将这一节点描述为递归自我改进(recursive self-improvement)的开始,即 AI 系统开始加速制造更好 AI 的阶段。Anthropic 说明,这一判断并非基于对现有模型的观察,而是基于对未来模型的预期和整体发展速度,在售 Claude 模型中尚无被证实越过这条线的模型。招股书列出的内部依据是,最近一个月 Claude 对 Anthropic 代码库的代码贡献占比超过 90%,单个工程师每日贡献的代码量增长超过 45 倍。公司正赶在股票交易开始前向投资者披露这一判断。

推荐理由

Anthropic 触发该门槛的依据是对未来的预期而非现有模型的观察,这一区分是理解该决定性质的关键背景。

阅读原文ko.martincid.com