OpenAI 前董事 Helen Toner 警告 AI 自我改进风险,称对齐挑战远未解决
Exdirectora de OpenAI alerta sobre IA que se automejora
AI 导读
OpenAI 前董事 Helen Toner 在 Decoder 播客上警告,OpenAI 与 Anthropic 已在越来越多的环节用 AI 加速开发自家系统,该做法与递归自我改进相关。她称让系统真正服从用户意图的对齐挑战仍远未解决。她还排除当前进展会立即引发生物武器攻击浪潮的可能,并重申 2023 年投票罢免 Sam Altman 的立场。