跳到正文

AI 动态

今天还没有收录新动态
10月2日周五
  1. WIRED Security and AI · 收录 · 原文 46

    HCA 与 Palantir 的 AI 排班工具 Timpani 遭护士投诉

    美国最大医院连锁 HCA 自 2023 年起在约 190 家院区中的 130 家部署了与 Palantir 联合开发的 AI 排班工具 Timpani,多名护士称其频繁无视排班偏好、在周日等时段安排过少或经验不足的护士,导致人手不足与疲劳。HCA 数据显示 Timpani 平均只把护士申请休假的 1% 排为工作日,但护士表示此前几乎不会出现这种情况。HCA 发言人称最终排班决定由护理管理者而非 Timpani 做出,并否认该工具以牺牲患者护理为代价减少人手。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  2. AI Incident Database · 收录 · 原文 8

    俄罗斯用伪造的 Mother Jones 深度伪造视频攻击 2026 中期选举

    俄罗斯虚假信息网络 Matryoshka(又称 Storm-1679)在 X 上散布一段假冒 Mother Jones 的深度伪造视频,谎称民主党全国委员会向 CNN 负责人 Mark Thompson 支付 2.59 亿美元以推广儿童性别转换,视频一天内获 15.5 万次观看,另一账号转发再获 5 万次。该网络此前还伪造 Sarah Jessica Parker、Julia Roberts 等名人贬低民主党的视频,并假冒 CNN、《纽约时报》、NPR 等媒体发布虚假报道。Mother Jones 经 @antibot4navalny 提醒后向 X 投诉,X 已删除相关帖子。

  3. AI Incident Database · 收录 · 原文 29

    加州警方警报中的毒蛇图片实为 AI 生成

    美国加州圣安娜警方发布警报称在居民区树上发现一条约四到五英尺长的加蓬蝰蛇,并提醒民众不要靠近,随后请来爬行动物专家搜索却未发现蛇的踪迹。警方最终确认,作为目击证据的图片是 AI 生成的假图。

    1 条报道 · 1 个来源查看事件时间线与全部报道
10月1日周四
  1. arXiv:危险能力与安全评测 · 收录 · 原文 论文43

    研究分析 185 份真实报告:AI 聊天机器人使用相关的妄想与伤害

    一项对 2025 年 8 月至 2026 年 2 月间收集的去标识化在线调查回复的横断面二次分析,刻画了与 AI 聊天机器人使用相关的心理健康伤害。研究分析了 95 份第一手和 90 份第二手叙述,中位年龄 35.0 岁。配对评分者将 102 份报告(55.1%)编码为与妄想信念一致,其中 50/102(49.0%)出现聊天机器人对信念的认可。常见后果包括孤立、关系破裂、住院、失业和财务损失,另有 4 份第二手报告描述了自杀死亡。作者强调样本为自我选择的便利样本,报告为回顾性且未经核实,结果应视为初步信号检测,而非流行率或因果证据,并呼吁开展前瞻性监测和基于轨迹的安全评测。

  2. AI Incident Database · 收录 · 原文 21

    Parkview High 今年收到第 4 起 AI 生成炸弹威胁

    美国佐治亚州 Gwinnett County 的 Parkview High School 本学年收到第 4 起 AI 生成炸弹威胁,最新一起于周一送达,学校一度进入封锁状态后恢复正常运转。校警称近期威胁呈现使用遮蔽电话号码的模式,正与 Georgia Bureau of Investigation 和 FBI 联合调查,目前尚未逮捕或锁定任何嫌疑人。

  3. AI Incident Database · 收录 · 原文 11

    斯坦福大学违反自身 AI 政策,将一名西班牙裔学生 AI 换脸成虚构黑人女性用于校园横幅

    斯坦福大学在校园“Welcome Home”横幅中,用生成式 AI 将西班牙裔学生 Billy Ramirez 替换为一名不存在的黑人女性,另两名同学的面部也被 AI 修改得更瘦。校方发言人 Charlene Gage 确认该做法违反学校 AI 政策——禁止用 AI 生成或修改斯坦福人物、事件、研究、设施或成就的图像,且未披露同样违规,校方称正为员工提供额外培训并加强材料审核。Ramirez 表示校方至今未联系或道歉,横幅已被撤下。

  4. AI Incident Database · 收录 · 原文 8

    斯坦福大学确认在争议中使用了 AI 编辑的学生照片

    斯坦福大学确认,其 R&DE 部门用生成式 AI 修改一张宣传图中多名学生的外貌,包括更换服装、为两名学生瘦脸,并完全改变一名学生的种族、性别和外貌。校方称该做法违反禁止用 AI 生成或修改斯坦福人物、事件、研究与设施图像的 AI 政策,且未披露,正为员工提供额外培训并加强材料审核。涉事图片原用作 Governor's Corner 学生宿舍中心横幅,现已撤下。

  5. AI Incident Database · 收录 · 原文 7

    斯坦福 R&DE 用 AI 篡改学生广告照片中的种族与外貌

    斯坦福 Residential & Dining Enterprises(R&DE)被曝用 AI 修改其广告照片中学生的种族与外貌。学生 Billy Ramirez ’27 发现自己在原照片中被移除,替换为一名 AI 生成的 Black 女性,其右侧两名学生也被修图显得更瘦。Ramirez 表示自己感到被消音和抹除,并反对校方如此呈现学生形象。

  6. AI Incident Database · 收录 · 原文 8

    斯坦福用 AI 修改照片,将 Hispanic 学生替换为 Black 女性

    斯坦福大学承认使用 AI 修改了一张校园照片,将原本出镜的 Hispanic 学生 Billy Ramirez 替换为一名 Black 女性,并调整其他学生外貌使其显得更瘦。校方称此举违反其禁止用 AI 生成或修改斯坦福人物、活动、研究及设施图像的政策,正与住宿与餐饮部门合作加强培训与审核,并已撤下相关横幅。该照片最初于 2024 年发布于校方餐饮服务账号,上周被用于校园横幅。

  7. Google Threat Intelligence · 收录 · 原文 12

    Google Threat Intelligence 解析亲俄影响力生态系统的驱动因素、动态与应用

    Google Threat Intelligence(GTIG)发文剖析亲俄影响力生态系统正从乌克兰战争工具回归全球战略资产,并日益将生成式 AI 用于行动策划、调研与内容创作。该报告称俄罗斯政府有意打造融合公开、隐蔽与独立要素的自维持环境,服务于削弱西方主导地位、维系周边地区支配力及保障国内政权稳定三类目标,美国、欧洲、北约与欧盟为主要打击对象。由于各组件相互关联,该系统能抵御有限范围的干扰,防守方需针对性应对。

已经到底了