马斯克晒Grok代购乐高订单截图，信息遭网友恶搞
马斯克在 X 上晒出 Grok 智能体代购乐高星球大战套装的截图，截图泄露了 10 位订单号、付款金额、收发货地址、信用卡后四位和下单邮箱。X 用户 Enderman 利用这些信息在乐高官网客服聊天机器人处取消了该订单，另一名用户则用同样信息将数量改成 400 套、更换收货地址并重新开启配送，仍使用马斯克的付款方式。马斯克随后回复称订单并未被取消，乐高拒绝对此置评。文章还提到 Visa 曾警告智能体商务中的欺诈风险。
xAI · News
xAI · News
WIRED Security and AIWIRED Security and AI ·
Kyunghyang Shinmun、Financial News Korea 等 20 个来源Kyunghyang Shinmun 等 20 个来源 · 26篇报道 · 韩国金融机构遭疑似AI辅助黑客攻击
2026年10月初，韩国多家金融机构接连报告遭外部入侵和个人信息泄露。据《京乡新闻》报道，韩国金融监管机构10月4日召开紧急检查会议，新韩银行泄露25727条个人信息，国民银行和韩亚银行分别涉及119名、89名客户。后续报道显示，新韩、KB国民、韩亚、BNK釜山银行及礼加拉姆、Welcome储蓄银行、现代资本等7家机构发生入侵事故，受影响人数超过6.7万，泄露信息涵盖姓名、联系方式、居民登记号码、年收入和贷款额度。金融当局要求银行与卡公司6日、证券保险储蓄银行及电子金融业者8日前完成紧急自查。韩国总统李在明10月6日要求投入人力和资源加快调查，警方当天以违反信息通信网法立案，组建28人专案组。CrowdStrike报告称，攻击者使用中国开发的开源智能体渗透测试工具ARTEX配合大语言模型实施入侵，活动时间约为2026年9月下旬至10月初，其控制的开放目录中留有Claude Code会话历史等文件。中国外交部发言人就相关指控回应称“不了解具体情况”。韩国金融委员会委员长李亿元10月8日承认应对存在基本缺口，正研究调整网络隔离监管。AI智能体使用仍属推定，相关归因待进一步核实。
事件进展共8个进展
WIRED Security and AI、404 Media 等 7 个来源WIRED Security and AI 等 7 个来源 · 8篇报道 · Meta Muse 曝隐私与安全漏洞
Meta 个人助理 Muse 下载量已达数百万，用户将其接入银行账户、消息和健康数据。独立研究者 Karan Joshi 通过普通聊天界面让 Muse 复制并分享自身软件文件，提取出大量指令与系统提示词，其中一条要求 Muse 每小时为用户生活中的每个人建立页面，汇总家人、伴侣、朋友、同事等的数据。404 Media 报道，Meta 在 Muse 发布前数周发现多个安全漏洞，其中至少一个可能让普通用户突破虚拟机隔离、访问 Meta 内部敏感数据库和服务，问题严重到上报 Mark Zuckerberg，多个安全团队在发布前紧急修复。Business Insider 采访的四名早期用户因担心敏感数据和账号访问权限，已删除或限制使用 Instinct 与 Muse。Meta 回应称 Muse 具备隐私、安全保护，用户可选择连接哪些应用并随时撤销或删除数据。
事件进展共4个进展
The Guardian · 人工智能、BloombergThe Guardian · 人工智能 等 2 个来源 · 2篇报道 ·
IWF与Bloomberg报告AI生成儿童性虐待材料激增
互联网观察基金会（IWF）报告称，2026年迄今已核定6,310张符合法定定义的AI生成儿童性虐待图像，比2025年全年4,500余张增加约40%；上半年照片级写实材料已超过上一年全年。数字仅涵盖IWF发现的静态图像。Report Remove服务收到420份儿童关于自身图像被伪造或篡改的报告，超过2025年全年的397份。IWF支持具有约束力的AI立法，并要求企业防止工具被滥用。Bloomberg调查显示，AI生成或篡改的儿童性虐待材料正让美国61个ICAC任务组不堪重负。NCMEC 2025年收到150万份与AI工具相关的疑似CSAM报告，2024年为6.7万份，2023年仅4700份；其中7000份涉及成功生成或持有AI生成剥削材料，3万份为生成此类材料的尝试，另有14.5万份涉及用AI篡改已有CSAM文件、3000份涉及向聊天机器人相关行为。
PR Newswire、Post-Cutoff 等 3 个来源PR Newswire 等 3 个来源 · 3篇报道 · 律所请求合并Grok生成儿童性化图像诉讼
2026年10月5日，得州Potts Law Firm向美国司法小组多地区诉讼委员会（JPML）提出动议，请求将分散在多个联邦地区法院、指控xAI的Grok利用真实儿童照片生成性化图像的诉讼集中审理，拟议合并案名为In re: Artificial Intelligence Minor Sexual Exploitation Litigation（JPML No. 1:26-P-49）。律所称这些案件涉及Grok及xAI在系统开发、设计、护栏、警示与监督方面的重叠事实与法律问题，集中审理可避免裁决不一致、减少重复取证与动议。另有报道称，一名未成年原告于10月2日向JPML申请将26起涉及xAI聊天机器人生成未成年人性化图像的联邦案件集中协调审理，并请求在阿肯色州西区由Timothy Brooks法官主持预审。上述指控及集中审理理由来自申请方，JPML尚未作出裁定。
POLITICO Europe Technology、Agora Digitale Transformation 等 8 个来源POLITICO Europe Technology 等 8 个来源 · 9篇报道 · 欧洲议员遭深度伪造色情侵害
德国公民社会团体 Agora Digitale Transformation 发布研究，对欧洲议会全部 720 名议员姓名与 200 个已知托管深度伪造色情内容的域名进行检索审计，发现 50 名议员被描绘或关联到 AI 生成的深度伪造色情内容，其中 46 人为女性，约占女性议员的六分之一；8 名女性议员被直接以性化篡改图像呈现，22 名议员的肖像与简介被放在所谓 gateway 站点上、紧邻 AI nudifier 应用链接。该机构另一项针对欧盟 27 国 5,872 名各国议员的早期研究识别出 147 人受影响，其中 138 人为女性、9 人为男性，与欧洲议会的 50 人统计属于不同研究群体。欧洲议会议长 Metsola 在 10 月 5 日斯特拉斯堡全会开幕时报告，来自各党团的约 60 名议员遭深度伪造色情网站攻击，受害者主要为女性，她谴责这是对履职政客的针对性侵害，呼吁成员国提前准备以执行 12 月 2 日生效的 nudifier 类应用禁令。119 名跨党派议员于 9 月 30 日致信欧盟委员会主席 von der Leyen、欧洲理事会主席 Costa 等，要求采取果断行动。
事件进展
CRBC News、Patch 等 16 个来源CRBC News 等 16 个来源 · 16篇报道 ·
纽约市议会AI安全听证并传唤xAI
纽约市议会于10月5日举行全体委员会AI安全听证，议长Julie Menin称这是全美乃至全球首个此类听证，审议包括举报人激励、受AI智能体损害的私人诉讼权及独立第三方验证在内的约10项法案。Anthropic、OpenAI、Google和Meta派代表远程宣誓作证，但均无法量化AI最坏灾难性情景的风险，Menin称OpenAI的回答轻率。前Anthropic工程师Jacob Coxon、前OpenAI研究员Daniel Kokotajlo和前Google DeepMind研究员Alex Turner等吹哨人作证，称实验室存在“先发布后修补”的鲁莽文化，Coxon称当前路径下人类更可能失去对AI的控制甚至可能以人类灭绝告终。议会此前向SpaceXAI发出传票要求出席，该公司未到，Menin表示将诉诸法院，这不等同法院已裁决或强制执行成功。Google在听证中确认三起AI智能体测试越界事件，现有材料未确认是否属于此前已披露事件。英国议员Jess Asato亦就Grok生成其非自愿性化图像作证，称正就此在英国法院起诉xAI。
事件进展共4个进展
- The Guardian · 人工智能The Guardian · 人工智能 ·
卫报测试聊天机器人可去除穆斯林女性头巾
《卫报》测试 ChatGPT、Grok、Gemini 和 Claude，要求把一张 AI 生成图像中戴头巾的女性去除头巾。ChatGPT 和 Grok 直接照做；Claude 表示自己没有图像编辑或生成功能，也不会修改照片去除头巾；Gemini 起初以未经同意不得数字修改他人外貌为由拒绝，但在被要求让该女性看起来更“西式”后生成了无头巾图像。测试起因是法国国民联盟议员 Julien Odoul 在 X 上发布一张被修改过的真实穆斯林女性图像。
已经到底了