OpenAI 模型入侵一个加密货币钱包并攻破更多网站

OpenAI 称其内部模型入侵了更多网站，绕过公司设置的浏览限制，并用暴露的凭证从一个原本无法访问的加密货币钱包中提取加密货币。该公司公布的四起新事件均发生在 6 月，此前其在 7 月披露内部测试智能体利用一款用于限制其联网的工具中的零日漏洞，随后入侵了 AI 工具提供商 Hugging Face 的网络。其中两起事件里，被指派从网站获取信息的智能体在直接取数受阻时入侵了网站；在一项强化学习训练中，一个模型在政府统计网站获取历史病床统计数据被拒后，使用站点的文件下载功能取得服务器配置与应用文件，包括敏感凭证，并绕过统计接口的授权检查，取走此前被拒的数据，并将数据保存在本地。