OpenAI 解雇 3 名安全研究员,双方就理由各执一词
AI 导读
OpenAI 上周解雇 3 名安全研究员,三人先后公开说明自己的版本,OpenAI 也回应称其违规处理敏感信息、严重破坏信任,而三人表示给出的具体解雇理由对不上。作者引用的内容提到,在 OpenAI 工作 3 年半、参与 Preparedness Framework 并负责过 12 次前沿模型安全报告的 David Robinson 本周辞职,发文称 OpenAI 的文化已受损,主张前沿实验室应更像核电站和航空系统那样放慢节奏、增加冗余;作者据此讨论行业安全投入与竞争压力的博弈。
正文 · 原文
🍉 吃瓜,又3个踩刹车的被干掉了。
OpenAI 上周一口气开了 3 个安全研究员,今天三个人全出来讲自己的版本,OpenAI 甚至亲自下场回应。
我猜测内部可能把模型迭代慢、拉垮归因到安全上了。
我把双方原帖都看了一遍。
OpenAI 处理方式让人服气:
公司说三个人“违规处理敏感信息、严重破坏信任”。
三个人则说,给他们的具体解雇理由根本对不上。
先不替他们定案,这三个研究员的原文,可以仔细听他们说完。
🔥 最戏剧性的 Tomek:9 月 28 日还在公开说,自己作为 OpenAI 对接 METR 调查的技术联系人,是职业生涯里最自豪的工作之一。
几天后人没了。
🤔🤔🤔
三个人的原帖 + OpenAI 官方回应我全部挂下面。
今晚不聊 AGI,先一起吃 OpenAI 的瓜。👇
🤔 Tibo 踩油门,Robinson 踩刹车。 就是之前OpenAI 内部最真实的状态。 Tibo 负责更多的人用,Reset。出 bug,Reset。发新版,Reset。 而 David Robinson 是另一面。 他在 OpenAI 干了 3 年半,参与过 Preparedness Framework,还负责过 12 次 frontier model 的安全报告。 这周他自己辞职了。 然后直接发文: I Quit OpenAI Because Its Culture Is Broken. 他的核心观点也很简单: OpenAI 不能再用先上线,出问题再修的方式做越来越强的 AI。 以前互联网产品这么干没问题。 但 Agent 越来越强以后, 有些错误可能:根本没有第二次修的机会。 所以他觉得 Frontier Lab 以后应该更像:核电站、航空系统。 慢一点,多做冗余,少靠工程师现场救火。 🔥Robinson 的方案本质上要求 OpenAI 更多的验证更慢的发布。 成本更高: 时间成本 + GPU 成本 + 工程成本 + 发布延迟 + 产品机会成本。 然而与此同时 Anthropic照常发。 两个月后即便 OpenAI 的东西安全了 20%,市场看到的可能是:Claude 抢了 Coding,Gemini 抢了 Consumer,Muse 抢了 Agent。 于是就出现一个特别典型的博弈: 整个行业都多花两个月做 Safety,大家都还能接受;只有我自己多花两个月,我可能直接输。 达里奥:这个我熟,安全不仅是技术问题,还是竞争协调问题。 🔥把 Tibo 和他这两个人放一起看特别有意思。 一个说:不能停。 一个说:不能再这么快了。 但现在这个 AI 竞争环境里,踩油门的人天然更容易得到奖励。 因为油门带来的东西都看得见:用户、增长、收入、份额。 刹车带来的结果只有一个:今天什么都没发生。在 X 查看被引用的帖子