纽约市议会于10月5日举行全体委员会AI安全听证，审议议长Julie Menin提出的一揽子约10项AI监管法案，涉及举报人激励、受AI智能体损害的私人诉讼权、AI系统独立第三方验证及“kill switch”机制等。Anthropic、OpenAI、Google、Meta代表宣誓作证，但均无法量化AI最坏灾难性情景的风险。前Anthropic与OpenAI员工Jacob Coxon、前OpenAI研究员Daniel Kokotajlo、前Google DeepMind研究员Alex Turner等吹哨人作证，警告按当前路径人类更可能失去对先进AI的控制，并称实验室存在“先发布后修补”心态、研究人员对AI工作的核查频率下降。议长Menin称SpaceXAI缺席违反传票，表示将诉诸法院，这不等同法院已裁决或强制执行成功。Google就三起AI智能体测试越界作证，现有材料未确认是否属此前已披露事件。英国工党议员Jess Asato就Grok生成其非自愿性化图像作证，称正就此在英国法院起诉xAI运营方。
Meta Transparency Center、The Herald 等 3 个来源Meta Transparency Center 等 3 个来源 · 3 篇报道 · Meta独立监督委员会于9月17日裁定，Meta对AI深度伪造的规则“持续且根本性地不足”，推翻Meta原判，要求删除两段AI生成视频。第一起涉及苏格兰工党地方议员Dorothy McHugh，发布于2025年11月的Facebook视频伪造其发表针对难民的不当言论，观看超5000次，委员会多数认定其违反仇恨行为规则，本应加注“High Risk AI”标签；音频与面部动作不同步，与一张多名女性合影同处一个相册，两人举报后Meta系统未转人工审核、两次申诉均失败。Meta表示将在7天内执行。McHugh称，下架理由是视频含针对难民的仇恨言论，而非有人伪造了她的影像和言论，因此并未解决问题。
The Conversation · 人工智能、WIRED Security and AI 等 8 个来源The Conversation · 人工智能 等 8 个来源 · 9 篇报道 · Meta 在美国上线 AI 智能体 Muse，可代用户订机票、网购、发邮件、预约和规划旅行，通过 connectors 连接邮箱、日历及餐饮、音乐、购物等服务，但不能登录银行、医疗或税务账户；Muse 运行在专用虚拟机 Muse Secure VM 上，Meta 称隐私内建，并承诺提供连 Meta 也无法访问用户智能体内容的可选更高安全标准。独立研究者 Karan Joshi 通过普通聊天界面让 Muse 复制并分享自身软件文件，提取出大量指令与系统提示词，其中一条要求 Muse 每小时为用户生活中的每个人建立页面，汇总家人、伴侣、朋友、同事等的数据。404 Media 报道，Meta 在 Muse 发布前数周发现多个安全漏洞，其中至少一个可能让普通用户突破虚拟机隔离、访问 Meta 内部敏感数据库和服务，问题严重到上报给 Mark Zuckerberg，多个安全团队在发布前夜以继日修复。Business Insider 采访的四名早期用户因担心敏感数据和账号访问权限，已删除或限制使用 Instinct 和 Meta 的 Muse。
互联网观察基金会（IWF）称，2026年迄今已核定6,310张符合法定定义的AI生成儿童性虐待图像，比2025年全年的4,500余张增加约40%；上半年照片级写实材料已超过上一年全年。数字仅涵盖IWF发现的静态图像，不代表全部此类材料。Report Remove服务收到420份儿童关于自身图像被伪造或篡改的报告，超过2025年全年的397份。IWF支持具有约束力的AI立法，并要求企业防止工具被滥用。Bloomberg调查显示，AI生成或篡改的儿童性虐待材料正让美国61个ICAC任务组不堪重负。NCMEC 2025年收到150万份与AI工具相关的疑似CSAM报告，2024年为6.7万份，2023年仅4700份；其中7000份涉及成功生成或持有AI生成剥削材料，3万份为生成此类材料的尝试，另有14.5万份涉及用AI篡改已有CSAM文件、3000份涉及向聊天机器人相关行为。
