跳到正文
原文
The Guardian · 人工智能· Nils Pratley·本站收录· 原文发表· 治理 →· 扫描记录里的位置 →

Anthropic 承认 AI 对人类的风险,但其治理真能胜任吗?

Anthropic recognises the risks to humanity – but is its governance really up to the job? | Nils Pratley

AI 导读

《卫报》专栏作者 Nils Pratley 在 Anthropic 本周 1.4 万亿美元上市前发文,质疑其治理结构能否制衡权力。文中介绍,Anthropic 有两个权力中心:七位创始人集体持有一票、占最终投票权的 50.1%;Long-Term Benefit Trust 提名七名董事中的四名,受托人包括前美联储主席 Ben Bernanke,公司注册为公益公司。作者认为其动机不只是创始人夺权,鉴于上市文件所称 AI 发展可能给人类带来灾难性或生存风险,非常规治理尚有理由,但这仍是未经检验的实验,可能只是更精致的“信任我们”结构。他引述 Aberdeen 的 Stuart Riddick:原则上认同使命不等于认同董事会的解释与执行。作者质疑,若受托人与创始人在基本安全问题上冲突,他们是否会对外公开,并认为这一安排仍代表权力高度集中于少数个人。

阅读原文theguardian.com