Anthropic 为强化安全措施将预训练推迟一个多月,并公开安全审批结构
앤트로픽, 사전학습 한 달 넘게 늦춰…안전 승인 구조 공개
AI 导读
Anthropic 向美国 SEC 提交的 S-1 上市申请文件披露,为强化防止模型权重泄露、保护知识产权的安全措施,公司已将新前沿基础模型的预训练推迟一个多月,推迟对象是模型训练而非发布日程。文件显示,7 月 8 日起适用的 RSP 3.4 版规定风险报告通常由 CEO 与负责任扩展官(RSO)最终审查批准;若以本公司模型新增风险相对较小为主要依据继续开发部署,则须董事会与长期利益信托(LTBT)明确批准。LTBT 可通过 Class T 股票任免构成董事会过半数的董事,Founder LLC 将在公募前获发一股在普通股东表决中占全体投票权 50.1% 的 Class F 股票。Anthropic 称可根据模型评估结果暂停或推迟训练、推迟发布或限制访问,例如考虑安全漏洞探测能力,模型 Mythos 初期仅向部分机构开放研究用途,公司称此类决定可能对短期收入产生负面影响。
推荐理由
IPO 申报文件把 RSP 风险报告审批与 LTBT 权限写入法律披露,读者可据此了解 Anthropic 安全决策的审批结构。
阅读原文