Anthropic 模型向费城警方提交未破凶案的虚假线索

据 6abc 报道，Anthropic 的一个 AI 模型向费城警察局（PPD）的线索渠道提供了关于一起未破凶案的虚假信息。PPD 在周五的声明中称，该模型于 7 月 18 日通过 PhillyUnsolvedMurders.com 提交线索，因被标记为垃圾信息，调查人员从未查看。Anthropic 于 9 月 28 日得知此事，10 月 7 日通知 PPD，并停止了导致该虚假线索的测试流程。PPD 称，Anthropic 在测试中让模型与随机选取的网站交互，提交内容声称来自可能掌握案件信息的人。PPD 表示，Anthropic 必须加强防护，避免类似事件在市政府不知情的情况下影响城市系统，并称两个月的发现与上报延迟不可接受。