佛州女子用Claude写日记威胁枪击被Anthropic举报
先了解这件事
佛罗里达州Bonita Springs的Carli Michelle Heller在Claude中写下袭击Lee County警长办公室的内容，并称把该聊天机器人当日记使用。Claude的安全系统标记该记录并升级给人工审核员，审核员认定构成可信威胁后报告执法部门，Heller随后被捕，面临佛罗里达州法律下二级重罪的书面暴力威胁指控。逮捕报告称，9月26日凌晨她写下威胁开枪的内容，次日凌晨又发布带有新枪的威胁信息，警员在其住所将其无冲突拘留。Anthropic表示，在认为披露信息对防止死亡或严重伤害有必要时会采取此类行动。后续报道称，案件由警长办公室情报侦探接手，法院记录显示9月30日依据佛罗里达州法规836.1对其提出指控。
AI 根据报道生成 · 10 分钟前更新
后续时间线
- Tom's HardwareAnthropic 将 Claude 对话中的枪击威胁上报警方，佛州女子被控重罪
美国佛罗里达州李县一名女子因与 Anthropic Claude 聊天机器人对话相关的威胁内容被警方逮捕并面临重罪指控。逮捕报告显示，一名用户 9 月 26 日称将“扫射”李县警长办公室，次日又提到新买的枪。Anthropic 会监控聊天中的关键词和可能被视为威胁的内容，视严重程度提交人工审核，此次团队决定向执法部门报告。该女子在住所被无冲突拘留，案件由警长办公室情报侦探接手。法院记录显示，9 月 30 日依据佛罗里达州法规 836.10 提出重罪指控，涉及书面或电子形式的大规模枪击或恐怖主义威胁。
- WBBH Gulf Coast News佛罗里达女子因在 Claude 聊天中发出暴力威胁被捕
佛罗里达 Bonita Springs 一名 30 岁女子 Carli Michelle Heller 因涉嫌在 Anthropic 的 Claude 平台上发出针对 Lee County 警长办公室的暴力威胁被捕，面临书面暴力威胁指控。平台自动标记了相关消息并升级至人工复核团队，后者通知了执法部门。逮捕报告称，9 月 26 日凌晨她写下威胁开枪的内容，次日凌晨又发布带有新枪的威胁信息，警员在其住所将其无冲突拘留。同一周内，警员还逮捕了一名用 AI 生成图片威胁警长 Carmine Marceno 的男子。律师 Michael Raheb 指出此类威胁在法庭上举证并不容易，并提到仇恨言论与第一修正案的边界问题；佛罗里达湾岸大学 AI 伦理助理教授 Chrissann Ruehle 则强调技术开发者有责任设置护栏并标记有害应用。
- The Verge AI佛罗里达女子因在 Claude 聊天中发出威胁被捕
佛罗里达一名 30 岁女子 Carli Michelle Heller 因涉嫌在 Anthropic 的 Claude 聊天中向 Lee County 警长办公室发出暴力威胁而被捕。据 Gulf Coast News 报道，Claude 标记了这段对话，随后由人工审核员查看消息并报告给警方。
- TechSpot佛罗里达女子把 Claude 当日记写下袭击威胁，Anthropic 人工审核后报警
佛罗里达州 Bonita Springs 的 Carli Michelle Heller 因在 Claude 中写下计划袭击警长办公室的内容被捕，面临佛罗里达州法律下二级重罪的书面暴力威胁指控。她于 9 月 26 日写下该内容，并称自己把 Anthropic 的聊天机器人当作日记使用。Claude 的安全系统标记了这条记录并升级给人工审核员，审核员认定构成可信威胁后报告执法部门。Anthropic 表示，在认为披露信息对防止死亡或严重人身伤害确有必要时，可能在有限的紧急情况下共享用户信息。警员据此确认 Heller 身份并上门，将其无冲突拘留。
相关讨论
关注度走势
每天新增来源
- 10月4日 新增 1 个来源（1 家媒体、0 个账号）
- 10月5日 新增 3 个来源（3 家媒体、0 个账号）
- 10月6日 新增 2 个来源（2 家媒体、0 个账号）
每小时关注度
趋势只比较一直被完整观测到的同一批信源，范围可能比当前关注度小。移动指针或点击图表查看每小时关注度；键盘可用左右方向键切换。