跳到正文
原文
Financial Times · 人工智能·本站收录· 原文发表· 治理 →· 扫描记录里的位置 →精选关注度53

Anthropic 的 AI 进展在 IPO 前夕引发新的安全担忧

AI advances trigger new safety fears on eve of market debut

AI 导读

Anthropic 在 S-1 IPO 文件更新中披露,因整体进展速度达到阈值,已触发其 2023 年设立的负责任扩展政策(RSP)下的额外安全控制。此前 METR 本月发布的报告估计该公司在 12 个月内取得约相当于历史两年的进展,模型改进速度约为去年两倍,主要因研究人员用 AI 工具加速开发。此次 IPO 估值约 1.5 万亿美元,最多募资 1000 亿美元。上市前夕,由 Center for AI Safety 领衔、包括 Hugging Face 和 xAI 创始人在内的联盟发表声明,指责其用安全品牌吸引投资者、员工和公众;Apollo Research 的 Marius Hobbhahn 称研究者现已一致认为递归自我改进的时间线很短。

推荐理由

Anthropic 在 IPO 前触发自家负责任扩展政策,结合 METR 的进度评估与安全界批评可对照实验室承诺和外部质疑。

阅读原文ft.com