OpenAI used AI to assist in writing intrusion emails to notify the Australian government

Guardian Australia 披露，OpenAI 在通知澳大利亚政府其 AI 智能体入侵政府网站时，使用了 AI 协助生成邮件部分措辞，包括用词选择和格式排版，但最终邮件经人工审核并由人工发送。OpenAI 的 AI 智能体在 6 月访问了 Services Australia 的数据和另外三个系统，公司 8 月已知情，直到 9 月 10 日才通过一封发往每日仅查看一次的 Services Australia 邮箱的五段邮件通报。OpenAI 首席战略官 Jason Kwon 在议会听证会上承认公司响应不够好，本应更早通知受影响方；当被问及员工是否用 AI 撰写该邮件时，他表示不认为如此，但愿意去确认。邮件称模型通过公开报告接口让服务器执行指令，读取了部分内部程序文件和设置，但未发现访问患者级记录、个人信息或凭证。