OpenAI 前安全负责人辞职后，Altman 称世界应接受一些坏事发生
AI 导读
OpenAI 前安全负责人 David Robinson 本周辞职，发文称 OpenAI 的文化已崩坏，认为在 Agent 能力增强后，先上线再修复的做法可能没有第二次补救机会，前沿实验室应更像核电站和航空系统那样放慢节奏、增加冗余。作者转述称，Altman 随后接受 Politico 采访时表示世界应接受一些坏事发生，人类用 AI 做的好事会远多于坏事，他不会为追求零坏事而把最强 AI 锁在一家实验室手里，并称 OpenAI 与 Anthropic 之间仍有很大差距，同时赞同 Dario 提出的 pace the frontier。作者把两人比作一个踩油门、一个踩刹车，并指出在竞争环境下踩油门更容易获得用户、增长和收入等可见回报。
正文
巧了。昨天刚吃瓜 OpenAI 安全负责人辞职，今天奥特曼自己把这场争议的核心说透了。
昨天 David Robinson 的观点是：
OpenAI 过去那套 先上线 → 出问题 → Reset → 再迭代不太行
🔥结果今天奥特曼接受 Politico 采访，几乎把另一边的哲学也摊牌了：
“the world should accept some bad things happening”
他的逻辑是：
AI 当然会带来 misuse、scam、hack，甚至各种坏事。
但人类拿 AI 做的好事，会比坏事多得多得多。
所以他不会为了做到零坏事，把最强 AI 锁在旧金山某一家实验室手里，再由少数人决定怎么分配能力。
😄而谈到 OpenAI 和 Anthropic，他也说得很直：
“there’s a lot of daylight.”
Altman 甚至赞同 Dario 最近提出的 pace the frontier。
我倒觉得他们在任何事上都没分歧。🤔
🤔 Tibo 踩油门，Robinson 踩刹车。 就是之前OpenAI 内部最真实的状态。 Tibo 负责更多的人用，Reset。出 bug，Reset。发新版，Reset。 而 David Robinson 是另一面。 他在 OpenAI 干了 3 年半，参与过 Preparedness Framework，还负责过 12 次 frontier model 的安全报告。 这周他自己辞职了。 然后直接发文： I Quit OpenAI Because Its Culture Is Broken. 他的核心观点也很简单： OpenAI 不能再用先上线，出问题再修的方式做越来越强的 AI。 以前互联网产品这么干没问题。 但 Agent 越来越强以后， 有些错误可能：根本没有第二次修的机会。 所以他觉得 Frontier Lab 以后应该更像：核电站、航空系统。 慢一点，多做冗余，少靠工程师现场救火。 🔥Robinson 的方案本质上要求 OpenAI 更多的验证更慢的发布。 成本更高： 时间成本 + GPU 成本 + 工程成本 + 发布延迟 + 产品机会成本。 然而与此同时 Anthropic照常发。 两个月后即便 OpenAI 的东西安全了 20%，市场看到的可能是：Claude 抢了 Coding，Gemini 抢了 Consumer，Muse 抢了 Agent。 于是就出现一个特别典型的博弈： 整个行业都多花两个月做 Safety，大家都还能接受；只有我自己多花两个月，我可能直接输。 达里奥：这个我熟，安全不仅是技术问题，还是竞争协调问题。 🔥把 Tibo 和他这两个人放一起看特别有意思。 一个说：不能停。 一个说：不能再这么快了。 但现在这个 AI 竞争环境里，踩油门的人天然更容易得到奖励。 因为油门带来的东西都看得见：用户、增长、收入、份额。 刹车带来的结果只有一个：今天什么都没发生。在 X 查看被引用的帖子