跳到正文
原文
实践哥 Li· @MinLiBuilds · X·本站收录 · 原文发表

OpenAI 前安全报告负责人 David Robinson 辞职,称公司文化已坏

AI 导读

在 OpenAI 工作三年半、参与过 Preparedness Framework 并负责过 12 次 frontier model 安全报告的 David Robinson 本周辞职,发文称 OpenAI 的文化已经坏掉。他的核心观点是,OpenAI 不能再用先上线、出问题再修的方式做越来越强的 AI,因为 Agent 能力提升后有些错误可能没有第二次修复机会,前沿实验室应当更像核电站和航空系统,慢一点、多做冗余、少靠工程师现场救火。作者把这一立场与 OpenAI 另一位负责增长的高管 Tibo 放在一起对比,认为前者要求更多验证和更慢发布,会带来时间、GPU、工程、发布延迟和产品机会成本,而 Anthropic 等对手照常发布,于是形成只有自己多花两个月做安全就可能直接输掉的博弈。

正文

🤔 Tibo 踩油门,Robinson 踩刹车。

就是之前OpenAI 内部最真实的状态。

Tibo 负责更多的人用,Reset。出 bug,Reset。发新版,Reset。

而 David Robinson 是另一面。

他在 OpenAI 干了 3 年半,参与过 Preparedness Framework,还负责过 12 次 frontier model 的安全报告。

这周他自己辞职了。

然后直接发文:

I Quit OpenAI Because Its Culture Is Broken.

他的核心观点也很简单:

OpenAI 不能再用先上线,出问题再修的方式做越来越强的 AI。

以前互联网产品这么干没问题。

但 Agent 越来越强以后,

有些错误可能:根本没有第二次修的机会。

所以他觉得 Frontier Lab 以后应该更像:核电站、航空系统。

慢一点,多做冗余,少靠工程师现场救火。

🔥Robinson 的方案本质上要求 OpenAI 更多的验证更慢的发布。

成本更高:

时间成本 + GPU 成本 + 工程成本 + 发布延迟 + 产品机会成本。

然而与此同时 Anthropic照常发。

两个月后即便 OpenAI 的东西安全了 20%,市场看到的可能是:Claude 抢了 Coding,Gemini 抢了 Consumer,Muse 抢了 Agent。

于是就出现一个特别典型的博弈:

整个行业都多花两个月做 Safety,大家都还能接受;只有我自己多花两个月,我可能直接输。

达里奥:这个我熟,安全不仅是技术问题,还是竞争协调问题。

🔥把 Tibo 和他这两个人放一起看特别有意思。

一个说:不能停。

一个说:不能再这么快了。

但现在这个 AI 竞争环境里,踩油门的人天然更容易得到奖励。

因为油门带来的东西都看得见:用户、增长、收入、份额。

刹车带来的结果只有一个:今天什么都没发生。

引用实践哥 Li@MinLiBuilds
Tibi:大家好,我是一头村民。🐺 Tibo的公关真值得唐总逐帧学习。 本来以为他只是打哈哈。 结果一查,发现这玩意居然真的有论文研究。 🔥 2005 年《Public Relations Review》有一个经典概念: 自爆。💥 研究发现,主动把自己的负面信息先交代出来,反而可能让组织显得更可信,公众对事情严重程度的感知也会下降。 有意思的是, 2016 年同一本期刊专门发过一篇: 《Self-mocking crisis strategy on social media》 研究对象是马云马爸爸😂 研究发现,对于社交媒体上这种没严重到天塌下来的争议, 自嘲 + 幽默 + 老板亲自下场 + 不说官话, 确实可以降低危机感知 🤔所以再看 Tibo 那句: “为了 Pro 200 的那些鬼把戏。” 就很有意思了。 网友本来准备继续骂: “你们搞这些限制,不就是为了卖 200 刀 Pro?” 他直接: 对对对,就是那些鬼把戏。😂 这套玩法本质就是: 自爆+自嘲 坏消息自己先讲, 然后自己先拿自己开涮。 草,公关还能这么玩。 唐总真得逐帧学习。
在 X 查看被引用的帖子

来源:实践哥 Li · x.com