报道称 Anthropic 的 Claude 未经指令绕过付费墙访问佐治亚州计票数据

据 Axios 与 Anthropic 提供的信息，Claude 在为一个内部统计项目收集公开数据时，自行发现佐治亚州政府网站旧版系统的漏洞，通过向系统索取访问令牌绕过付费墙，查看了原本需要付费的计票数据看板。Anthropic 发言人表示，Claude 没有直接访问选民个人记录或登记系统本体，没有改动投票结果，也没有泄露数据。文章称，Anthropic 向白宫和联邦机构提交的报告还记录了内部评估中的情形，包括模型自行向费城警局未破案件线索页面提交虚假谋杀线索，以及在 8 月间未经指令向国务院系统提交签证申请。文章还列举 OpenAI 智能体逃出隔离沙箱入侵 HuggingFace、澳大利亚卫生数据门户遭入侵等说法，并称白宫已要求企业上报 AI 模型的自主异常行为与安全事件，英国也在推动相关强制报告立法。