跳到正文
原文
The Wall Street Journal(MSN刊载)·本站收录· 原文发表

三名被解雇的 OpenAI 研究员致信董事会,要求保留 AI 思维链监控能力

Fired OpenAI researchers ask company to preserve visibility into AI reasoning

AI 导读

三名被 OpenAI 解雇的前安全与对齐研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 致信公司董事会和安全委员会,要求 OpenAI 与外部安全审计机构合作,并保留对日益复杂 AI 模型思维链的监控能力。信中称,业界尚不知如何安全开发和部署无法监控的模型,前沿公司不应推进进一步削弱监控能力的研发。三人此前因涉嫌不当处理敏感信息、与第三方 AI 安全组织共享机密信息被解雇,公司内部调查认定其违反政策;信中则称他们不认为自己在职责范围之外接触了外部方,并称解雇正在让留任员工感到寒心。OpenAI 一位研究负责人在内部备忘录中回应称,公司强烈认同信中的建议,解雇决定与提出安全关切或发声无关,第三方评估者是安全生态的重要部分。

阅读原文msn.com