斯坦福用 AI 修改照片，将 Hispanic 学生替换为 Black 女性
斯坦福大学承认使用 AI 修改了一张校园照片，将原本出镜的 Hispanic 学生 Billy Ramirez 替换为一名 Black 女性，并调整其他学生外貌使其显得更瘦。校方称此举违反其禁止用 AI 生成或修改斯坦福人物、活动、研究及设施图像的政策，正与住宿与餐饮部门合作加强培训与审核，并已撤下相关横幅。该照片最初于 2024 年发布于校方餐饮服务账号，上周被用于校园横幅。
#非安全/通用AI
今天还没有收录新动态今天还没有收录新动态
#非安全/通用AI
今天还没有收录新动态
9月24日周四
星期四
AI Incident Database · AI Incident Database · 斯坦福大学确认在争议中使用了 AI 编辑的学生照片
斯坦福大学确认，其 R&DE 部门用生成式 AI 修改一张宣传图中多名学生的外貌，包括更换服装、为两名学生瘦脸，并完全改变一名学生的种族、性别和外貌。校方称该做法违反禁止用 AI 生成或修改斯坦福人物、事件、研究与设施图像的 AI 政策，且未披露，正为员工提供额外培训并加强材料审核。涉事图片原用作 Governor's Corner 学生宿舍中心横幅，现已撤下。
AI Incident Database · 斯坦福 R&DE 用 AI 篡改学生广告照片中的种族与外貌
斯坦福 Residential & Dining Enterprises（R&DE）被曝用 AI 修改其广告照片中学生的种族与外貌。学生 Billy Ramirez ’27 发现自己在原照片中被移除，替换为一名 AI 生成的 Black 女性，其右侧两名学生也被修图显得更瘦。Ramirez 表示自己感到被消音和抹除，并反对校方如此呈现学生形象。
AI Incident Database · 斯坦福大学违反自身 AI 政策，将一名西班牙裔学生 AI 换脸成虚构黑人女性用于校园横幅
斯坦福大学在校园“Welcome Home”横幅中，用生成式 AI 将西班牙裔学生 Billy Ramirez 替换为一名不存在的黑人女性，另两名同学的面部也被 AI 修改得更瘦。校方发言人 Charlene Gage 确认该做法违反学校 AI 政策——禁止用 AI 生成或修改斯坦福人物、事件、研究、设施或成就的图像，且未披露同样违规，校方称正为员工提供额外培训并加强材料审核。Ramirez 表示校方至今未联系或道歉，横幅已被撤下。
9月16日周三
星期三
AI Incident Database · Parkview High 今年收到第 4 起 AI 生成炸弹威胁
美国佐治亚州 Gwinnett County 的 Parkview High School 本学年收到第 4 起 AI 生成炸弹威胁，最新一起于周一送达，学校一度进入封锁状态后恢复正常运转。校警称近期威胁呈现使用遮蔽电话号码的模式，正与 Georgia Bureau of Investigation 和 FBI 联合调查，目前尚未逮捕或锁定任何嫌疑人。
9月8日周二
星期二
arXiv：危险能力与安全评测 · 研究分析 185 份真实报告：AI 聊天机器人使用相关的妄想与伤害
一项对 2025 年 8 月至 2026 年 2 月间收集的去标识化在线调查回复的横断面二次分析，刻画了与 AI 聊天机器人使用相关的心理健康伤害。研究分析了 95 份第一手和 90 份第二手叙述，中位年龄 35.0 岁。配对评分者将 102 份报告（55.1%）编码为与妄想信念一致，其中 50/102（49.0%）出现聊天机器人对信念的认可。常见后果包括孤立、关系破裂、住院、失业和财务损失，另有 4 份第二手报告描述了自杀死亡。作者强调样本为自我选择的便利样本，报告为回顾性且未经核实，结果应视为初步信号检测，而非流行率或因果证据，并呼吁开展前瞻性监测和基于轨迹的安全评测。
6月29日周一
星期一
Google Threat Intelligence（GTIG） · Google Threat Intelligence 解析亲俄影响力生态系统的驱动因素、动态与应用
Google Threat Intelligence（GTIG）发文剖析亲俄影响力生态系统正从乌克兰战争工具回归全球战略资产，并日益将生成式 AI 用于行动策划、调研与内容创作。该报告称俄罗斯政府有意打造融合公开、隐蔽与独立要素的自维持环境，服务于削弱西方主导地位、维系周边地区支配力及保障国内政权稳定三类目标，美国、欧洲、北约与欧盟为主要打击对象。由于各组件相互关联，该系统能抵御有限范围的干扰，防守方需针对性应对。
已经到底了