Anthropic 依预测判定 AI 将达自我改进阈值
Anthropic、AIの自己改良の閾値到達を判断 安全規則を発動
AI 导读
Anthropic 在修订后的 IPO 招股书中说明,已正式判定达到其 Responsible Scaling Policy 中的 AI 研发能力阈值,该阈值被政策定位为递归自我改进的开端,即 AI 系统开始加速制造更优 AI 的阶段。这份政策为模型设定所需的安全对策与监督水准;Anthropic 称此次判断并非基于现售 Claude 模型已确认的事实,而是基于对将来模型的预测和整体进步速度。招股书援引的内部数据显示,最近一个月内 Anthropic 代码库中超过 90% 的变更由 Claude 编写,工程师人均每日代码量增至 45 倍以上,模型还越来越多地承担研究尤其是安全研究。公司称已基于自身预测推进应对,并在股票开始交易前将这一判断告知投资者。
推荐理由
Anthropic 依据对未来模型的预测而非现售模型的事实判定触及自我改进阈值,可借此了解前沿实验室如何自行执行安全框架。
阅读原文