跳到正文
原文
TVN·本站收录· 原文发表· 观点 →· 扫描记录里的位置 →

OpenAI 前董事 Helen Toner 警告 AI 自我改进风险,称对齐挑战远未解决

Exdirectora de OpenAI alerta sobre IA que se automejora

AI 导读

OpenAI 前董事 Helen Toner 在 Decoder 播客上警告,OpenAI 与 Anthropic 已在越来越多的环节用 AI 加速开发自家系统,该做法与递归自我改进相关。她称让系统真正服从用户意图的对齐挑战仍远未解决。她还排除当前进展会立即引发生物武器攻击浪潮的可能,并重申 2023 年投票罢免 Sam Altman 的立场。

阅读原文tvn.cl