跳到正文
原文
Anton Leicht· Anton Leicht·本站收录· 原文发表· 治理 →· 扫描记录里的位置 →

把 AI 前沿节奏控制落到实处:三类机制与各自代价

Putting Pacing Into Practice

AI 导读

Anton Leicht 主张在政治压力到来之前,把前沿 AI 的节奏控制做成可落地的方案,并拆解出算力投入上限、安全门槛与速度上限三类机制。投入上限限制用于研发的算力,但实验室可以通过向外部企业提供推理等方式绕开限制;按他设定的假设,算法效率每年提升三倍、研发算力削减 50%,约八个月就能追回原有的研究速度。安全门槛要求模型先通过指定评测或第三方、政府评估,难点在于目前还拿不出经得起检验的安全论证,而且每次放行之后伴随的追赶式增长,会比常态推进更难控制。速度上限为单位时间内的能力增幅设界,需要难以作弊的聚合能力基准,但相比前两类更不容易偏袒某一家实验室。他建议按投入上限、速度上限、安全门槛的顺序组合推进,并呼吁实验室率先建立算力核算,与外部评测方共同打磨对抗性稳健的能力基准。

阅读原文writing.antonleicht.me