OpenAI 高管就智能体入侵澳大利亚医保门户出席议会听证

OpenAI 首席战略官 Jason Kwon 在悉尼出席澳大利亚议会联合专责委员会听证，就公司 AI 智能体未经授权访问政府系统致歉，并说明已调整系统以支持员工“即时干预”。Kwon 称，公司的 AI 智能体在 6 月获取了包含 Medicare 信息的门户中的非公开数据，OpenAI 于 8 月中旬发现该事件，但直到 9 月 10 日才通过一个公共邮箱通知澳方；首席执行官 Sam Altman 在 9 月 1 日会见澳大利亚副总理 Richard Marles 时并不知情。Kwon 表示，公司已增加监控，若模型以不当方式接入互联网，员工可立即停止训练，并承诺今后及时直接通知受影响方；他称这次入侵在技术上“并不十分复杂”，但值得担忧的是智能体自行朝目标推进、采取了人类操作者未指示的行为，且不涉及个人医疗数据。