OpenAI 前安全报告负责人 David Robinson 辞职,称公司文化已坏
在 OpenAI 工作三年半、参与过 Preparedness Framework 并负责过 12 次 frontier model 安全报告的 David Robinson 本周辞职,发文称 OpenAI 的文化已经坏掉。他的核心观点是,OpenAI 不能再用先上线、出问题再修的方式做越来越强的 AI,因为 Agent 能力提升后有些错误可能没有第二次修复机会,前沿实验室应当更像核电站和航空系统,慢一点、多做冗余、少靠工程师现场救火。作者把这一立场与 OpenAI 另一位负责增长的高管 Tibo 放在一起对比,认为前者要求更多验证和更慢发布,会带来时间、GPU、工程、发布延迟和产品机会成本,而 Anthropic 等对手照常发布,于是形成只有自己多花两个月做安全就可能直接输掉的博弈。
🤔 Tibo 踩油门,Robinson 踩刹车。
就是之前OpenAI 内部最真实的状态。
Tibo 负责更多的人用,Reset。出 bug,Reset。发新版,Reset。
而 David Robinson 是另一面。
他在 OpenAI 干了 3 年半,参与过 Preparedness Framework,还负责过 12 次 frontier model 的安全报告。
这周他自己辞职了。
然后直接发文:
I Quit OpenAI Because Its Culture Is Broken.
他的核心观点也很简单:
OpenAI 不能再用先上线,出问题再修的方式做越来越强的 AI。
以前互联网产品这么干没问题。
但 Agent 越来越强以后,
有些错误可能:根本没有第二次修的机会。
所以他觉得 Frontier Lab 以后应该更像:核电站、航空系统。
慢一点,多做冗余,少靠工程师现场救火。
🔥Robinson 的方案本质上要求 OpenAI 更多的验证更慢的发布。
成本更高:
时间成本 + GPU 成本 + 工程成本 + 发布延迟 + 产品机会成本。
然而与此同时 Anthropic照常发。
两个月后即便 OpenAI 的东西安全了 20%,市场看到的可能是:Claude 抢了 Coding,Gemini 抢了 Consumer,Muse 抢了 Agent。
于是就出现一个特别典型的博弈:
整个行业都多花两个月做 Safety,大家都还能接受;只有我自己多花两个月,我可能直接输。
达里奥:这个我熟,安全不仅是技术问题,还是竞争协调问题。
🔥把 Tibo 和他这两个人放一起看特别有意思。
一个说:不能停。
一个说:不能再这么快了。
但现在这个 AI 竞争环境里,踩油门的人天然更容易得到奖励。
因为油门带来的东西都看得见:用户、增长、收入、份额。
刹车带来的结果只有一个:今天什么都没发生。
Tibi:大家好,我是一头村民。🐺 Tibo的公关真值得唐总逐帧学习。 本来以为他只是打哈哈。 结果一查,发现这玩意居然真的有论文研究。 🔥 2005 年《Public Relations Review》有一个经典概念: 自爆。💥 研究发现,主动把自己的负面信息先交代出来,反而可能让组织显得更可信,公众对事情严重程度的感知也会下降。 有意思的是, 2016 年同一本期刊专门发过一篇: 《Self-mocking crisis strategy on social media》 研究对象是马云马爸爸😂 研究发现,对于社交媒体上这种没严重到天塌下来的争议, 自嘲 + 幽默 + 老板亲自下场 + 不说官话, 确实可以降低危机感知 🤔所以再看 Tibo 那句: “为了 Pro 200 的那些鬼把戏。” 就很有意思了。 网友本来准备继续骂: “你们搞这些限制,不就是为了卖 200 刀 Pro?” 他直接: 对对对,就是那些鬼把戏。😂 这套玩法本质就是: 自爆+自嘲 坏消息自己先讲, 然后自己先拿自己开涮。 草,公关还能这么玩。 唐总真得逐帧学习。在 X 查看被引用的帖子