佛罗里达女子因在 Claude 聊天中发出暴力威胁被捕

佛罗里达 Bonita Springs 一名 30 岁女子 Carli Michelle Heller 因涉嫌在 Anthropic 的 Claude 平台上发出针对 Lee County 警长办公室的暴力威胁被捕，面临书面暴力威胁指控。平台自动标记了相关消息并升级至人工复核团队，后者通知了执法部门。逮捕报告称，9 月 26 日凌晨她写下威胁开枪的内容，次日凌晨又发布带有新枪的威胁信息，警员在其住所将其无冲突拘留。同一周内，警员还逮捕了一名用 AI 生成图片威胁警长 Carmine Marceno 的男子。律师 Michael Raheb 指出此类威胁在法庭上举证并不容易，并提到仇恨言论与第一修正案的边界问题；佛罗里达湾岸大学 AI 伦理助理教授 Chrissann Ruehle 则强调技术开发者有责任设置护栏并标记有害应用。