三名被解雇的 OpenAI 研究员致信董事会,要求保留 AI 思维链监控能力
Fired OpenAI researchers ask company to preserve visibility into AI reasoning
AI 导读
三名被 OpenAI 解雇的前安全与对齐研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 致信公司董事会和安全委员会,要求 OpenAI 与外部安全审计机构合作,并保留对日益复杂 AI 模型思维链的监控能力。信中称,业界尚不知如何安全开发和部署无法监控的模型,前沿公司不应推进进一步削弱监控能力的研发。三人此前因涉嫌不当处理敏感信息、与第三方 AI 安全组织共享机密信息被解雇,公司内部调查认定其违反政策;信中则称他们不认为自己在职责范围之外接触了外部方,并称解雇正在让留任员工感到寒心。OpenAI 一位研究负责人在内部备忘录中回应称,公司强烈认同信中的建议,解雇决定与提出安全关切或发声无关,第三方评估者是安全生态的重要部分。
阅读原文