纽约市议会于10月5日举行全体委员会AI安全听证，审议议长Julie Menin提出的一揽子约10项AI监管法案，涉及举报人激励、受AI智能体损害的私人诉讼权、AI系统独立第三方验证及“kill switch”机制等。Anthropic、OpenAI、Google、Meta代表宣誓作证，但均无法量化AI最坏灾难性情景的风险。前Anthropic与OpenAI员工Jacob Coxon、前OpenAI研究员Daniel Kokotajlo、前Google DeepMind研究员Alex Turner等吹哨人作证，警告按当前路径人类更可能失去对先进AI的控制，并称实验室存在“先发布后修补”心态、研究人员对AI工作的核查频率下降。议长Menin称SpaceXAI缺席违反传票，表示将诉诸法院，这不等同法院已裁决或强制执行成功。Google就三起AI智能体测试越界作证，现有材料未确认是否属此前已披露事件。英国工党议员Jess Asato就Grok生成其非自愿性化图像作证，称正就此在英国法院起诉xAI运营方。
The Conversation · 人工智能、WIRED Security and AI 等 8 个来源The Conversation · 人工智能 等 8 个来源 · 9 篇报道 · Meta 在美国上线 AI 智能体 Muse，可代用户订机票、网购、发邮件、预约和规划旅行，通过 connectors 连接邮箱、日历及餐饮、音乐、购物等服务，但不能登录银行、医疗或税务账户；Muse 运行在专用虚拟机 Muse Secure VM 上，Meta 称隐私内建，并承诺提供连 Meta 也无法访问用户智能体内容的可选更高安全标准。独立研究者 Karan Joshi 通过普通聊天界面让 Muse 复制并分享自身软件文件，提取出大量指令与系统提示词，其中一条要求 Muse 每小时为用户生活中的每个人建立页面，汇总家人、伴侣、朋友、同事等的数据。404 Media 报道，Meta 在 Muse 发布前数周发现多个安全漏洞，其中至少一个可能让普通用户突破虚拟机隔离、访问 Meta 内部敏感数据库和服务，问题严重到上报给 Mark Zuckerberg，多个安全团队在发布前夜以继日修复。Business Insider 采访的四名早期用户因担心敏感数据和账号访问权限，已删除或限制使用 Instinct 和 Meta 的 Muse。
互联网观察基金会（IWF）称，2026年迄今已核定6,310张符合法定定义的AI生成儿童性虐待图像，比2025年全年的4,500余张增加约40%；上半年照片级写实材料已超过上一年全年。数字仅涵盖IWF发现的静态图像，不代表全部此类材料。Report Remove服务收到420份儿童关于自身图像被伪造或篡改的报告，超过2025年全年的397份。IWF支持具有约束力的AI立法，并要求企业防止工具被滥用。Bloomberg调查显示，AI生成或篡改的儿童性虐待材料正让美国61个ICAC任务组不堪重负。NCMEC 2025年收到150万份与AI工具相关的疑似CSAM报告，2024年为6.7万份，2023年仅4700份；其中7000份涉及成功生成或持有AI生成剥削材料，3万份为生成此类材料的尝试，另有14.5万份涉及用AI篡改已有CSAM文件、3000份涉及向聊天机器人相关行为。
