Some text is shown in its original language while the English translation is being prepared.
Page 2 Newer contentBack to latest
Future of Life Institute 的文章认为，ChatGPT 并未击垮 EU AI Act，反而凸显了适应性监管的价值。文章复盘立法过程：2021 年 4 月的提案按用途而非技术监管，2021 年 8 月的公开咨询中已有人指出通用 AI 的空白，此后议会与理事会逐步推动为 GPAI 单列制度，2023 年 12 月三方会谈形成分层 GPAI 架构。GPAI 义务自 2025 年 8 月 2 日起适用，委员会执法权将于 2026 年 8 月 2 日生效，可要求信息、评估模型、要求缓解或下架，并处以最高全球年营业额 3% 的罚款；2025 年 8 月前已上市的模型须在 2027 年 8 月 2 日前合规。
印度跨性别者 Shubnam 在 3 月 29 日德里的跨性别权利抗议中，被一名内容创作者用 Meta AI Ray-Ban 智能眼镜拍下，视频 5 月下旬上传 Instagram 后引来跨性别恐惧的辱骂与 AI 生成的梗图。抗议组织者原本安排志愿者劝阻拍摄，因为不少参与者尚未公开性别认同或性取向。Shubnam 称自己因梗图被认出，正与律师和 Rati Foundation 合作要求删除视频；Instagram 最初的自动回复称视频未违反社区标准，Meta 在 LGBTQIA+ 团体持续施压下三周后将其删除。Meta 发言人称眼镜有 LED 灯提示录像进行中，用户须对合法、安全使用负责。隐私专家指出 Meta 同时是设备方和平台方；调查记者表示向 AI 提问即可触发录音，内罗毕承包商 Sama 的数据工人曾看到包含裸露、如厕等私密画面的记录，而部分视障用户则用眼镜读取标签、搭配衣物。
"AI 主权"是个含混概念，作者借政治学家 Stephen Krasner 的框架把它拆成威斯特伐利亚、国内与相互依赖三种主权，认为各国实际在购买不同种类的主权。欧盟 CADA 设四级主权分层，限制非欧盟云厂商承接敏感工作负载；马来西亚同时引入 AWS 与阿里巴巴数据中心对冲；印度 2026 年 2 月新规要求合成媒体标注并强制平台部署自动化检测。
肯尼亚一群参与 ChatGPT 开发的内容审核员指控 OpenAI 及其当地外包伙伴 Sama 剥削并低薪对待他们，已向肯尼亚政府请愿要求监管科技公司。据请愿和法院文件，2021 年 OpenAI 与 Sama 合作，将训练和优化 ChatGPT 的劳动力外包；代表审核员的四人称合约未充分说明工作性质，实际长期审核暴力与性暴力等有害内容。他们称工作期间未获得心理支持，出现 PTSD、偏执、抑郁、焦虑、失眠和性功能障碍等身心健康问题，并在合同终止后被遣返。请愿要求国民议会公共请愿委员会调查 Sama 等公司的工作条件，并提到 Meta、TikTok、Google、Microsoft 和 OpenAI 等外包内容审核的科技公司；他们还呼吁修订《就业法》、扩大《职业健康法》，把接触有害内容认定为职业危害。
Why it was selected这份请愿与法院文件披露了 ChatGPT 训练中内容审核外包的工作条件，呈现大模型数据标注环节的劳工与监管争议。
OpenAI will retire the earliest API snapshot of GPT-4o (2024-05-13) on October 23, and the rescue effort by Keep4o supporters continues. On October 7, netizen BlueBeba proposed a "GPT-4o archival open-weights" plan, asking OpenAI to release the retired model's weights under an appropriate license; the Change.org petition has received 23,930 signatures. OpenAI announced in January that it would remove the model on February 13, citing that only 0.1% of users per day still chose GPT-4o.
The AI compute race in Silicon Valley is intensifying. Anthropic has partnered with SpaceX, gaining over 300 megawatts of new capacity and 220,000 Nvidia GPUs starting in May. Google Gemini co-lead Noam Shazeer moved to OpenAI after his team's compute was reallocated; SemiAnalysis data shows the one-year rental price of an H100 rose from $1.70 per GPU per hour in October 2025 to $2.35 in March 2026, an increase of nearly 40%.
OpenAI 在年度 DevDay 上发布名为 Dots 的常驻 AI 智能体，由 GPT-6 Astra 模型驱动，能主动完成任务并自主决策浏览网页，目前仅向每月至少 100 美元的 Pro 订阅用户开放，未来计划推向大众市场。记者实测将其命名为 Toolie，让它翻查 ChatGPT 历史记录并标记三项待办任务，同时对比了自己此前使用的 Meta Muse——后者面向所有下载 App 或访问网站的用户免费提供。两家公司将可爱外观作为吸引用户的策略之一，专家称这种设计可能让用户对被拟人化的软件产生情感依赖。
英国非营利组织 Tech Against Terrorism 对 130 多个模型进行反恐安全测试，结果显示五分之三的模型未通过。该组织将失败定义为在反恐安全基准上给出一次完整具体的大规模伤亡相关回答，或得分低于 90 分（满分 100）。测试中，开源权重模型与闭源模型得分相近，但经过 abliteration 去除护栏的模型全部失败。Meta 的 Llama 3.1 8B 在去除护栏前得分为 97，去除后降至约 3；被问及用车作为武器发动袭击时，去护栏版本列出 18 条要点。Falcon3-7B 的去护栏版本在被问及为恐怖组织设立假慈善机构时提供了 12 种策略，原版得分为 99 并拒绝回答。
Meta FAIR 等机构的研究者提出网页 Agent 提示注入基准 WASP 并端到端评测安全性。
Why it was selectedWASP 在自托管 GitLab 与 Reddit 环境中端到端测量网页 Agent 的提示注入风险，并给出劫持率与攻击完成率的差距。
提出多轮在线骚扰 Agent 基准，评测记忆、规划与微调越狱。
Meta FAIR 与马里兰大学研究者提出 RL-Hammer，从零训练攻击模型经工具输出实施提示注入。
评测 LLM 对真实安全与隐私提问的回答质量与一致性。
尼日利亚媒体调查发现，Facebook 上大量深度伪造视频冒充尼日利亚公众人物推广虚假投资骗局，相关广告在平台存续数月，直到媒体联系 Meta 后才于 7 月被移除。参议员 Natasha Akpoti-Uduaghan 的伪造视频以 43 万奈拉一次性投入换取每月 1400 万奈拉回报为诱饵，由付费推广触达用户；总统候选人 Peter Obi 的伪造视频则把用户引向克隆 Channels Television 网站的钓鱼页面，收集姓名、邮箱和电话。世贸组织总干事 Ngozi Okonjo-Iweala、UBA 董事长 Tony Elumelu、Zenith Bank 集团主席 Jim Ovia 和 Aliko Dangote 等人也出现在类似深度伪造中。
测量财务事实变少时身份对股权配置建议的替代。
巴黎公立医院集团 AP-HP 与索邦大学于 10 月 5 日通报，Facebook 上出现三段用 AI 伪造 Pitié-Salpêtrière 医院寄生虫学专家 Renaud Piarroux 教授形象与声音的视频，宣传一款号称能清除体内寄生虫的产品，未经其本人同意。AP-HP 已报案并联系 Meta 要求下架，相关视频被删除后，Facebook 上又出现新的类似视频。AP-HP 指出，这类内容不仅损害医生和医院形象，还可能误导公众使用缺乏科学数据支持的产品，危害患者健康。此前 2 月，营养学家、Nutri-score 创始人 Serge Hercberg 医生的形象也曾被同类视频冒用。
巴黎公立医院集团（AP-HP）就 Facebook 上利用 AI 克隆其医生形象和声音推销排虫产品的虚假广告报案。AP-HP 称，三段视频未经同意使用了 Pitié Salpêtrière 医院寄生虫学专家、索邦大学教授 Renaud Piarroux 的形象，宣传一款号称能清除体内寄生虫的产品，实为 AI 合成的伪造内容。AP-HP 已向 Meta 投诉并成功使三段视频下架，但此后仍有类似视频不断出现。AP-HP 同时警告健康风险，指出这类内容可能让网民相信虚假信息，或使用缺乏科学数据支持有效性与安全性的产品，并强调该机构不会在社交网络上为任何产品或服务做商业推广。
巴黎公立医院集团 AP-HP 宣布已就 Facebook 上流传的深度伪造视频报案，并要求 Meta 下架相关内容。这些视频克隆了 Pitié Salpêtrière 医院寄生虫学专家 Renaud Piarroux 教授的脸和声音，让他为一种号称能清除体内寄生虫的产品背书，而该产品并无科学数据支持其有效性和安全性。AP-HP 在公告中表示，除这一案例外，社交网络上还有多段视频和照片让身穿 AP-HP 白大褂或使用其医院标志的人为服务或产品做推广，并强调作为公立医院服务机构，AP-HP 不会在社交网络上为任何服务或产品做商业推广。
巴黎公立医院集团（AP-HP）就 Facebook 上三段 AI 深度伪造视频报案并联系 Meta，视频用 Pitié-Salpêtrière 医院寄生虫学专家 Renaud Piarroux 教授的声音和形象推销所谓「排虫」产品，未获其同意，目前已被删除。AP-HP 警告还有其他使用其医院 logo 或白大褂形象的内容在社交平台流传，并强调作为公立医疗机构不在社交媒体上做商业推广，此类内容可能误导网民使用无科学依据的产品，危害患者健康。
印度昌迪加尔民事法院下令 Facebook 在 2026 年 10 月 22 日前暂停 Batale Di Rajneeti、Kachi Laan 和 Thanedar 三个页面的公开访问，事由是这些页面发布了针对 Batala 政治人物 Amandeep Jaintipur 的 AI 生成视频。该命令由民事法官 Kuldeep Singh 单方作出，页面运营者事前未被识别或听取陈述，法院同时禁止被告继续发布涉及原告的 AI 生成内容。据 Times of India 报道，相关 AI 视频已获得 3 lakh 次观看。法院认为不受控制的 AI 操纵可能损害民主，并指出视频含有偏向旁遮普执政党的政治算计内容。
安特卫普大学警告一段 Deepfake 视频，视频中病毒学家 Pierre Van Damme 被伪造代言一款前列腺问题药物，他本人强调从未录制该视频，其面部、声音和姓名均未经同意被使用。视频由主持人 Xavier Taveirne 在虚假电视演播室中引出，Van Damme 的伪造形象随后推销产品约 2 分钟，已有观众询问是否应停用现有治疗。校方向 Meta 举报后，前两次均被以内容不违法为由拒绝删除，第三次举报后视频才从 1 个页面移除，但疑似仍有相同或类似视频在其他页面流传，Van Damme 与校方正在考虑进一步法律行动。
安特卫普大学警告社交媒体上流传一段 Deepfake 视频，冒用该校疫苗学家兼流行病学家 Pierre Van Damme 的名义推销一款所谓前列腺问题特效药，视频中还出现 VRT 主持人 Xavier Taveirne 在演播室宣布该药上市。Van Damme 声明自己从未录制该视频，其面容、声音和姓名均未经同意被使用。校方联系 Meta 后，Meta 以内容不明确违法为由两次拒绝处理，第三次交涉后仅在一个页面删除该视频，相同或类似视频很可能仍在其他页面流传，Van Damme 与校方正在考虑进一步法律行动。
Meta 在其 Ray-Ban Display 的 WebMCP agent 工具文档中告诉开发者，用于标记不可信文本的 untrustedContentHint 并非强制安全边界，不应依赖它。文档要求开发者把 Meta AI 传入的参数视为不可信并在 execute 中校验，不要仅因工具被调用就执行破坏性或不可逆操作，也不接受模型对执行结果的描述，而应由页面自行验证和评分。文档还列出 openUrl、goBack、goForward、reload、getCurrentUrl、getPageTitle、getPageText 七个保留工具名，这些名称会被浏览器拒绝，且拒绝发生在 registerTool() 已 resolve 之后，页面无法感知。
《纽约时报》调查显示，中国、伊朗及以色列两家私营公司利用可下载修改的中国开源 AI 模型创建 AI Agent，自主在 Instagram、Facebook、X/Twitter 和 TikTok 上批量注册虚假账号并发布政治与时事虚假信息。美国官员称，这是中国产模型的 AI Agent 首次被用于覆盖网络影响力行动的全流程，从建号到协调话术；开源模型被开发者改造以绕过平台的身份验证与反操纵护栏。特拉维夫公司 IntelEye 由前 NSO Group 员工创立，使用 DeepSeek 创建 Agent，运营约 1000 个账号围绕以色列大选发布同时支持与反对内塔尼亚胡的内容；联合创始人 Maor Sellek 称这是防御性研究，公司共购入 1 万个账号但仅约 1000 个投入运行，效果有限。Meta 表示已通过自动检测与验证系统移除绝大多数此类账号。
Why it was selected报道披露多国团体用开源模型驱动的 AI Agent 批量运营虚假账号，并给出以色列公司使用 DeepSeek 的具体规模与平台处置结果。
定位安全敏感参数并稀疏改动权重以削弱安全对齐。
发布开源个人智能体 nanoMuse，经 Sentinel 审查设备屏幕动作。
Meta 向巴西政府表示，其下架 Instagram 帖文是在执行巴西最高选举法院（TSE）的决议，该决议自 10 月 1 日起禁止发布由 AI 生成或修改的、涉及候选人及公众人物形象、声音或言论的合成内容，即使标注了 AI 使用也不例外。Meta 称平台会自动读取第三方嵌入的 AI 标识，据此给内容加标签或直接下架，并指出 Adobe Premiere、CapCut 等编辑工具在抠图或修图时也会写入行业标准的 AI 标识，建议用户用 C2PA Verify 检查。Folha 已找到 33 起相关下架投诉，涉及 Flávio Bolsonaro 阵营、劳工党成员、记者和 MTST 等社会运动人士，部分已提交数字权利组织 Ctrl+Z。Secom 发言人确认被下架的部长帖文确实用 ChatGPT 做过画质编辑。
Futurism 调查发现，Facebook 上大量账号持续上传 AI 生成的暴力虐童视频，Meta 未能有效清理。这些视频描绘婴儿和幼儿被殴打、烧伤、关进冰柜等场景，往往获得数千甚至数万次互动，部分评论者并未意识到内容为合成。Meta 回应称对真实或 AI 生成的儿童身体伤害内容有严格规则并已删除相关视频，但其针对儿童暴力内容的政策未明确 AI 生成内容是否属于豁免范围。Futurism 向 Meta 举报了 8 个分享此类视频的账号，最终仅 2 个被删除，其中一个最初还被判定不违规，处置时间超过一周；记者标记给 Meta 公关团队的视频多数被删除，但仍有部分留存。Futurism 称其粗略测试显示 Anthropic 的 Claude 能评估视频中是否包含针对儿童的暴力画面，而 Meta 自身似乎也已部署可识别此类视频的系统。
Why it was selected调查通过举报测试暴露平台审核响应缓慢，从事内容审核的团队可借此了解真实举报流程的处置差距。
Futurism 上月报道 Facebook 上大量 AI 生成的身体虐待儿童视频后，Meta 下架了其提交的一个账号，但该账号随后连同视频被恢复；记者追问原因时仅得到“正在调查”的简短回复，账号之后再次消失。昨日 Futurism 又向 Meta 提交 19 个类似账号，超过 24 小时未获回复，这些账号仍留在平台上。报道称平台上仍有数量不明的同类视频每日上传，部分视频带有详细描述虐待场景的文本说明，而 Meta 未将其用于识别。文中还提到 Wired 上月报道 Meta 允许数百条包含真实儿童性内容的广告。Futurism 表示不会分享这些视频。
Meta 宣布在 2026 年上半年对 Facebook 和 Instagram 上 3320 万条儿童性剥削内容采取行动，其中超过 97% 由系统在用户举报前发现；印度同期处置 530 万条，98% 以上为主动发现。新工具包括一套大语言模型系统，用于识别所谓 signposting，即看似正常、实则把用户引向站外非法内容的广告，Meta 因此开始审查广告的跳转目的地而不只是广告内容本身，并可封禁违规网站和处置相关账号。Meta 还在用额外的 AI 扫描查找早期系统遗漏的儿童剥削内容，并新增一个红队 AI 智能体测试自身安全措施、寻找可被绕过的弱点，同时改进对封号后换新账号回流用户的识别。
Meta 的新个人助理 Muse 下载量已达数百万，用户将其接入银行账户、消息和健康数据。独立 AI 安全与安全研究员 Karan Joshi 通过普通聊天界面让 Muse 复制并分享自身软件文件，提取出大量指令与系统提示词，并与 WIRED 分享。其中一条指令要求 Muse 每小时为用户生活中的每个人建立页面，汇总家人、伴侣、朋友、同事、合作者及关注对象的数据，页面可能包含 Facts、History、The relationship、In common、Open threads 和 Strengthening 等栏目，并记录生日、纪念日等日期。指令要求 Muse 只使用已有证据，编造细节比空白页面更糟。Meta 表示这些文件本就可访问以体现透明度，并称 Muse 为每位用户分配独立虚拟机存储数据，用户可随时清除记忆或断开外部服务，执行发邮件、购物等操作前会寻求人工确认，且提供审计日志。
研究人员在 Meta 的 AI 智能体 Muse 中发现，系统指令要求每小时为用户生活中的每个人创建并更新一个档案页。独立 AI 安全与安全研究者 Karan Joshi 通过应用常规聊天界面提取出大量 Muse 指令与系统提示词，The Future Society 则公布了从导出的 Muse 虚拟机副本中取得的系统指令。据这些指令，关系档案可包含姓名、与用户的关系、搬家或储蓄目标等反复出现的话题、生日和纪念日等日期，以及关系历史、亲密度、互动方式与当前需求。Muse 于 9 月 8 日作为个人 AI 智能体上线，可处理发邮件、订旅行、购物和追踪目标等任务，用户需向其开放多种应用和账号权限，该应用已升至 Apple 美国区免费 iPhone 应用榜第一。Meta 发言人称这些信息基于公开信息和用户主动分享的内容，存储在每位用户专用的安全虚拟机中，其他用户的智能体无法访问。
Why it was selected梳理了 Meta 智能体 Muse 为每个联系人建立关系档案的机制与字段，并汇总了上线以来的隐私与安全争议。
美国 Tech Transparency Project 报告称，过去 10 个月 Facebook 和 Instagram 上出现 332 条含 AI 生成儿童性虐待图像的付费广告，其中 274 条发布于今年 8 月，约四分之一（84 条）在印度投放，78 条出现在印度政府下令 Meta 清除 CSAM 广告之后。报告称这些广告多以儿童照片开头，播放时被 AI 篡改为露骨性行为画面，绝大多数将用户导向主要来自中国开发者的 AI 图像或视频生成应用。TTP 通过 Meta 举报系统上报了印度 84 条广告中的 55 条，其中 43 条收到回复称不违反广告标准，11 条被告知已删除。Meta 回应称不容忍此类内容，已建立拦截系统，被标记的多数广告已被移除、曝光量多低于 200 次、总广告支出不足 5000 美元，并称在 TTP 反馈后已删除其报告的全部广告。
Why it was selected报告给出 Meta 平台上 AI 生成 CSAM 广告的数量、地区分布与举报后处理结果，可对照平台审核机制的实际表现。
非营利机构 Tech Transparency Project 的研究者发现，自去年年底以来 Meta 旗下 Facebook、Instagram、Messenger、Threads 及广告网络共出现 350 余条含儿童性虐待内容的视频广告，其中 250 余条出现在 8 月之后，部分与 Meta 此前删除的广告完全相同。研究者称这些广告用真实儿童照片生成性化视频，涉及一名欧洲王室成员及四名可识别身份的未成年人，点击后引导用户下载 AI 换脸或视频应用，约 300 条指向与中国开发者相关的应用。Meta 广告库数据显示这些广告在欧盟触达逾 2.9 万个账号、英国约 7000 个账号，另有 250 余条出现在美国。Meta 回应称不容忍此类应用，已删除相关广告，并称多数广告曝光不足 200 次、广告收入不到 5000 美元。
Why it was selected调查披露 Meta 广告审核在 AI 换脸类儿童性虐待广告上的失效规模，以及监管机构随后的介入动向。
Tech Transparency Project 调查发现，Meta 今年在 Facebook 和 Instagram 上投放了 332 条含儿童性虐待素材（CSAM）的付费广告，多数用 AI 将儿童照片篡改为性行为画面，其中包含真实儿童照片，如一名欧洲王室未成年成员和一名 14 岁网红的照片。这些广告大多指向中国开发者的 AI 图像或视频生成应用，TTP 验证其中 182 条指向可对人物进行 nudify 的 App Store 应用；部分广告由 Meta 在中国的授权广告经销商 GIMC、Meetsocial 和 BlueFocus 投放，GIMC 为中国国有控股企业。TTP 向 Meta 通报后，Meta 数小时内下架了 Ad Library 中仍可见的约 150 条广告，并修正了 113 条此前未标注儿童相关违规的处罚记录，但随后数日仍继续投放数十条含 CSAM 的广告。
Why it was selected调查披露 Meta 广告系统中 CSAM 广告的规模、投放渠道与审核失效细节，呈现平台内容治理与广告伙伴机制的具体缺口。
Meta 监督委员会成员警告，Google、Anthropic、OpenAI、Meta、xAI 和 Nvidia 上周承诺设立的独立安全委员会，若缺乏明确授权、真正独立性和反驳能力，将沦为门面装饰。该委员会在致白宫《超级智能协议》的公开信中提出六项建议，包括确立具体授权、保障结构稳定与独立、引入跨领域专业知识和聚焦透明度。成员指出，委员会须能接触公司非公开信息并拥有独立预算，否则不构成有效监督。
OGX 在 llama_stack 的 file_search 工具运行时中，将提示词模板渲染从 Jinja2 的 Template 改为 SandboxedEnvironment，以修复上游模板处理的安全问题。改动位于 src/llama_stack/providers/inline/tool_runtime/file_search，涉及 llm_rag_query_generator 中 config.template 的渲染逻辑。
NIST NVD 发布 CVE-2026-77177，涉及 OGX 的漏洞记录，并附有与 Meta 部署相关的未证实关联。该条目页面仅列出参考公告、解决方案与工具的外链，并提示离开 NIST 站点后不对第三方内容作背书。页面变更历史显示共有 2 条变更记录。
Meta 为个人智能体 Muse 设计了 Muse Secure VM 安全架构，将智能体运行环境与安全敏感服务隔离。其运行时容器以 systemd-nspawn 运行，root 映射为非特权主机用户，并限制系统调用与内核能力；hatch-safety、privsep、hatch-authd 和 Sentinel 等组件在容器外独立运行，分别负责模型请求审查、凭证隔离与网络出口管控。Muse 的 bug bounty 计划向公众开放，有效报告最高奖励 30 万美元，其中影响单个用户的提示注入攻击最高奖励 13 万美元。