北爱尔兰受害者因 AI 伪造名人投资视频被骗 25 万英镑
北爱尔兰一名受害者在看到一段疑似 AI 生成、由金融界知名人士出镜的投资广告视频后，被骗走 25 万英镑。PSNI 称这是"复杂且金额巨大的诈骗"，骗子先让其小额投资，再通过 WhatsApp 诱导其开设多个账户、开放电脑远程访问并借钱追加投资，资金转入犯罪分子控制的账户。
#多模态
今天还没有收录新动态今天还没有收录新动态
#多模态
今天还没有收录新动态
9月26日周六
星期六
AI Incident Database · AI Incident Database · 印度班加罗尔男子遭"CM Vijay"深度伪造视频诈骗，损失逾 1 万卢比
印度班加罗尔一名 29 岁保安接到冒充泰米尔纳德邦首席部长 Vijay 的 WhatsApp 深度伪造视频通话，被以 110 万卢比援助为诱饵，先后以兑换费、解锁 PIN、CBI 罚款等名义转账逾 1.04 万卢比。该案已按《信息技术法》立案，是当地首例此类案件。
9月24日周四
星期四
AI Incident Database · 斯坦福用 AI 修改照片，将 Hispanic 学生替换为 Black 女性
斯坦福大学承认使用 AI 修改了一张校园照片，将原本出镜的 Hispanic 学生 Billy Ramirez 替换为一名 Black 女性，并调整其他学生外貌使其显得更瘦。校方称此举违反其禁止用 AI 生成或修改斯坦福人物、活动、研究及设施图像的政策，正与住宿与餐饮部门合作加强培训与审核，并已撤下相关横幅。该照片最初于 2024 年发布于校方餐饮服务账号，上周被用于校园横幅。
AI Incident Database · 斯坦福大学确认在争议中使用了 AI 编辑的学生照片
斯坦福大学确认，其 R&DE 部门用生成式 AI 修改一张宣传图中多名学生的外貌，包括更换服装、为两名学生瘦脸，并完全改变一名学生的种族、性别和外貌。校方称该做法违反禁止用 AI 生成或修改斯坦福人物、事件、研究与设施图像的 AI 政策，且未披露，正为员工提供额外培训并加强材料审核。涉事图片原用作 Governor's Corner 学生宿舍中心横幅，现已撤下。
AI Incident Database · 斯坦福 R&DE 用 AI 篡改学生广告照片中的种族与外貌
斯坦福 Residential & Dining Enterprises（R&DE）被曝用 AI 修改其广告照片中学生的种族与外貌。学生 Billy Ramirez ’27 发现自己在原照片中被移除，替换为一名 AI 生成的 Black 女性，其右侧两名学生也被修图显得更瘦。Ramirez 表示自己感到被消音和抹除，并反对校方如此呈现学生形象。
9月19日周六
星期六
AI Incident Database · 特朗普亲吻白宫助理 Natalie Harp 的疯传图像实为 AI 生成假图
宣称显示美国总统特朗普在球场亲吻白宫助理 Natalie Harp 的图像本周在社交媒体疯传，跨平台累计数百万次浏览，实为 AI 生成的假图。这些图像在多个在线平台扩散，但传播来源尚不明确。
9月18日周五
星期五
AI Incident Database · 佛罗里达 Vero Beach 男子因未经同意制作并传播 AI 深度伪造色情图像被捕，面临 8 项指控
佛罗里达州 Vero Beach 37 岁男子 Peter Solomon Ruma 因未经同意制作并传播 AI 生成的女性色情图像被捕，保释金 100 万美元，面临 8 项指控。警方称其从社交媒体等渠道获取照片制作篡改图像，指控涉及 2026 年 6 月至 8 月间一名女性受害者，包括 3 项制作篡改性描绘、3 项传播、1 项性网络骚扰和 1 项跟踪。警方已识别出多名潜在受害者，认为其行为可能持续多年，调查仍在进行，可能追加指控。
9月16日周三
星期三
AI Incident Database · AI 生成威胁电话致 Parkview High 进入软封锁
佐治亚州 Lilburn 的 Parkview High School 因一通经由伪装号码拨出的 AI 生成威胁电话进入软封锁，执法部门排查后学校恢复正常运转。校长 David Smith 向家长说明该来电为 AI 生成消息，并称此次事件与先前迫使学校启动同类安全程序的自动电话一致。Gwinnett 学校警察正与 GBI、FBI 合作追查该伪装号码，尚未公布来电来源或锁定嫌疑人。
AI Incident Database · 哥伦布男子 James Strahler II 因网络跟踪前伴侣、制作 AI 生成成人及儿童淫秽材料被判 15 年监禁
俄亥俄州哥伦布市 37 岁的 James Strahler II 因网络跟踪多名前伴侣，并制作真实的及 AI 生成的成人、儿童淫秽材料，被美国联邦地区法院判处 180 个月（15 年）监禁。他是全美首位因违反新出台的 Take It Down Act 而被定罪的被告。
9月10日周四
星期四
AI Incident Database · 荷兰数十名政客与名人遭 MrDeepFakes 深度伪造色情视频，多人报案
荷兰数十名知名人士、Tweede Kamer 议员与王室成员出现在 MrDeepFakes 网站的深度伪造色情视频中，部分视频观看量超过 10 万次，多名受害女性此前并不知情并已报案。该网站 2018 年成立，月访问量约 1300 万，注册地设在圣基茨和尼维斯，上传者被建议保持匿名并按视频表现获得报酬。D66 已申请议会辩论，荷兰数据保护局与司法部长呼吁受害者向检方报案，多名受害者及政党正在评估法律途径。
已经到底了