全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态POLITICO Europe Technology
欧盟拟为 Europol 扩权并翻倍预算，隐私监督争议升温
欧盟委员会提出对 Europol 进行转型式改革，将其预算翻倍至 30 亿欧元，并让这个自 1998 年起协调欧洲警务情报的机构直接参与打击新型威胁，获取更多数据和先进技术。欧洲数据保护监督局（EDPS）局长 Wojciech Wiewiórowski 表示支持 Europol 使用数据和 AI 工具，但质疑提案中没有配套的监督安排，并警告该机构可能对与犯罪活动无关的大量人员数据在漫长且未明确的期限内保留。Europol 副执行主任 Jürgen Ebner 称 AI 让犯罪更快、更复杂且更易规模化，AI 可帮助调查人员过滤海量数字证据、串联信息并识别可行动情报。提案保留了 EDPS 对 Europol 的监督角色，但 Wiewiórowski 认为 EDPS 的权力和资源未同步增强，且内部机构权力过大而缺乏外部监督。
- 动态Nieman Lab
ChatGPT 生成假《纽约客》漫画并伪造漫画家签名
Nieman Lab 调查发现，ChatGPT 生成的《纽约客》风格漫画会带上真实漫画家的笔名签名，涉及 Brendan Loper、Emily Flake、Joe Dator、Pat Byrnes 等 15 位以上该刊现任及历史作者，均未获授权或补偿。Loper 的签名最早在 5 月被陌生人提醒出现在 ChatGPT 输出中，此后 Reddit 的 ChatGPT 论坛上出现大量带真实签名的仿制漫画。OpenAI 发言人称重视社区反馈的模型意外行为，在记者告知后 ChatGPT 开始提示该提示词可能违反第三方内容相似度护栏，但截至发稿仍会给部分通用漫画签上真实漫画家姓名。康泰纳仕 2024 年与 OpenAI 签署多年内容授权协议，但《纽约客》表示从未允许任何大模型开发者用其漫画训练模型；该刊漫画家合同为自由投稿制，作者保留版权。
- 动态Tom's Hardware
Anthropic 将 Claude 对话中的枪击威胁上报警方，佛州女子被控重罪
美国佛罗里达州李县一名女子因与 Anthropic Claude 聊天机器人对话相关的威胁内容被警方逮捕并面临重罪指控。逮捕报告显示，一名用户 9 月 26 日称将“扫射”李县警长办公室，次日又提到新买的枪。Anthropic 会监控聊天中的关键词和可能被视为威胁的内容，视严重程度提交人工审核，此次团队决定向执法部门报告。该女子在住所被无冲突拘留，案件由警长办公室情报侦探接手。法院记录显示，9 月 30 日依据佛罗里达州法规 836.10 提出重罪指控，涉及书面或电子形式的大规模枪击或恐怖主义威胁。
- 动态POLITICO
梅洛尼为声音申请商标以应对深度伪造
意大利总理梅洛尼向欧盟知识产权局（EUIPO）提交声音商标申请，以应对深度伪造。她在 Facebook 帖文中称深度伪造可以欺骗、操纵和针对任何人，并表示自己能自我防卫，但许多人不能。若申请获批，该声音商标可在其覆盖的商品和服务范围内，为梅洛尼提供挑战未经授权商业使用该受保护录音的额外法律依据，但不会让她对所有 AI 生成的声音模仿拥有全面控制权，也不会使深度伪造成为刑事犯罪。欧盟 7 月通过的修订版 AI Act 要求深度伪造必须清晰披露，并禁止生成可识别个人的非自愿性化图像、视频或音频的 AI 系统，同时禁止生成儿童性虐待材料的系统。该 EUIPO 申请仍在审查中。
- 动态Music Business Worldwide
索尼音乐已要求平台下架超 26 万首 AI 深度伪造曲目
索尼音乐截至 9 月底已要求数字平台下架超过 26 万首冒充其旗下艺人的 AI 生成曲目，接近 3 月底 13.5 万首的两倍，据《金融时报》10 月 5 日报道。按此计算，索尼在第二、三季度平均每月发出逾 2 万次 AI 深度伪造下架请求。索尼对《金融时报》表示将继续维护艺人权利，但称这正变成一场艰难的斗争。被冒充的艺人包括 Harry Styles、Adele、Britney Spears、Queen 和 Michael Jackson。索尼将问题描述为未经许可模仿其艺人声音与形象的生成式 AI 深度伪造曲目，称其规模巨大、伤害艺人、误导歌迷。
- 动态EUobserver
欧洲约150名政客遭AI脱衣应用伪造色情内容，女议员推动欧盟落实12月禁令
智库 Agora Digital Transformation 10月5日发布的研究显示，约150名欧洲政客成为AI生成深度伪造色情内容的目标，其中50人为欧洲议会议员，46人是女性。该智库9月的另一项研究指出，女性政客成为虚假性化形象受害者的概率为十四分之一，男性政客为五百分之一，且受害者往往在内容扩散后才察觉。欧洲绿党发起公开信，获119名来自社会党与民主党、复兴欧洲党团及左翼党团的议员联署，要求欧盟委员会和成员国采取果断行动，指导各国主管部门从2026年12月2日起执行对脱衣应用的禁令，并在每个成员国设立资源充足的指定机构负责落实。
- 动态Greens EFA
研究称 50 名欧洲议会议员遭 AI 性化深度伪造，Greens/EFA 呼吁加强保护
Agora Digitale Transformation 的一项新研究首次系统评估了女性欧洲议会议员遭受 AI 生成性化暴力的程度，在先前已确认的 147 起国家议员案例之外，又识别出 50 名受影响议员，其中 46 人为女性，相当于约六分之一的女性议员受到影响。由 Greens/EFA 主席 Terry Reintke 和议员 Lena Schilling 发起、并获社会民主党、自由党和左翼党团领袖支持的联名信，呼吁欧盟委员会和各成员国对性化 AI 深度伪造采取果断行动，并从 2026 年 12 月 2 日起有效执行对所谓 nudifier 应用的禁令。Reintke 表示已知案例只是冰山一角，要求科技公司更快移除未经同意的裸露图像和视频，并把责任从受害者转移到平台。Schilling 本人也是受影响者之一，她指出这些图像在当事人不知情或未同意的情况下被生成和传播。
- 动态Agora Digitale Transformation
Agora 审计：50 名欧洲议会议员被深度伪造色情内容关联，欧盟现行规则未能阻止
Agora Digitale Transformation 发布政策简报，对 720 名欧洲议会议员姓名与 200 个已知托管深度伪造色情内容的域名进行检索审计，发现 50 名议员（46 名女性、4 名男性）被描绘或关联到 AI 生成的深度伪造色情内容，约占女性议员的六分之一。审计还发现 8 名女性议员被直接以性化篡改图像呈现，22 名议员的肖像与简介被放在所谓 gateway 站点上、紧邻 AI nudifier 应用链接，46 名议员受搜索索引残留影响，其中 26 名在域名被查封后搜索结果仍存在。
- 动态GitHub 安全公告
vLLM 工具续写丢失 cache_salt，恢复跨租户前缀缓存成员推断
vLLM 在 GPT-OSS Harmony 路径（POST /v1/responses）的工具续写环节丢失了 cache_salt，使续写前缀落入全局无盐缓存命名空间，恢复了 cache_salt 本应阻止的提示词成员推断。受影响版本为 vLLM ≤ 0.25.1（已在 0.25.1、commit 752a3a504485 确认）。首轮请求正确携带 request.cache_salt，但工具调用后的续写通过 tokens_input(token_ids) 重建引擎输入时未传入该盐值，攻击者据此可提交重建的续写并读取 Responses 返回的精确 cached_tokens_per_turn 计数，判断另一租户是否处理过某个猜测的提示词或历史。该漏洞由 Patch the Planet（Trail of Bits 与 OpenAI 合作）报告，使用 GPT-5.5-Cyber 发现。
- 动态TechDefused
研究称 AI 聊天机器人将私密对话泄露给广告追踪方
IMDEA Networks Institute 主导、九名研究者开展的测试发现，ChatGPT、Claude、Gemini、Grok、Copilot、Perplexity、DeepSeek、Meta AI 和 Mistral Le Chat 中，有六个网站版和三个 Android 应用把对话数据发送给第三方。泄露内容包括对话网址、提示词、截图以及机器人自动生成的会话标题，例如关于帕金森症状的提问被概括为“Early-stage Parkinson's disease symptoms”。Grok 最严重，单次对话的地址和标题被送给 Meta、TikTok、X 的广告像素和 Google Ads 等七个追踪方；分享 Grok 对话时 TikTok 还会收到最新提示词和对话截图。
- 动态Jorge García Herrero
研究：九款对话式 AI 服务向第三方追踪器泄露对话标题、提示词与永久链接
IMDEA Networks 等机构的研究者对 ChatGPT、Claude、Gemini、Grok、DeepSeek、Perplexity、Copilot、Mistral 和 Meta AI 九款对话式 AI 服务的网页客户端及其中八款的安卓客户端做了系统隐私分析，共识别出 44 个第三方组织、124 个第三方域名，每款服务都至少接入一个广告或追踪服务。研究发现 6 个网页客户端和 3 个安卓客户端会把对话 URL、标题、提示词和截图传给第三方，其中 5 个网页客户端向 9 个追踪服务泄露对话永久链接或全局对话 ID，3 个网页客户端泄露对话标题，且常与持久用户标识同时传输。部分提供商的对话永久链接默认公开可读，Grok 免费与付费层默认公开并可选择退出，Perplexity 访客层对话始终公开。
- 动态IMDEA Networks
IMDEA Networks 研究：ChatGPT、Claude、Grok 和 Perplexity 存在广告追踪器，或泄露对话数据
IMDEA Networks 研究所的一项研究显示，ChatGPT（OpenAI）、Claude（Anthropic）、Grok 和 Perplexity AI 中嵌入了来自 Meta、Google、TikTok 等公司的多种追踪器，可能暴露用户对话与活动数据。研究指出三类风险：对话永久链接暴露给第三方追踪器、通过追踪机制将交互关联到用户身份、隐私控制与政策未能准确反映实际数据流。研究发现，聊天标题、URL（永久链接）及相关元数据可能连同 cookie 和标识符一起被发送给 Meta 或 Google 等第三方；Grok 和 Perplexity 将访问控制薄弱的对话链接发送给 Meta Pixel，Grok 还通过 TikTok 采集的 Open Graph 元数据暴露逐字消息文本。cookie、哈希邮箱地址与服务端追踪技术的组合可能促成持久画像与用户再识别。
- 动态BleepingComputer
OpenAI 将在欧盟为 ChatGPT 和 Codex 文本加入不可见水印
OpenAI 准备在未来几周为欧盟地区符合条件的 ChatGPT 和 Codex 文本输出加入不可见水印，该水印在阅读或复制时不可见，通过 textGrain 技术微调模型用词形成可检测的统计模式。全球 API 开发者即日起可对支持的模型选择开启水印，默认关闭；水印检测器同时开放申请，初期仅限获批的研究者和专家机构。OpenAI 自己的测试显示水印容易被编辑破坏，在 400 token 段落中替换 10% 同义词使检测率从约 92% 降至 66%，替换 25% 降至 17%；在 1% 误报率下，200 token 心理学回答的检测率约 80%，400 token 时约 95%，数学等用词自由度低的主题检测更差。OpenAI 提醒，未检测到水印不能证明文本由人类撰写，检测到水印也不会透露生成者身份、账号、提示词或对话内容，且无法判断最终作品有多少由人类撰写或编辑。
- 动态GitHub 安全公告
Langflow 因弱 Fernet 密钥派生漏洞可被离线解密全部凭据，1.10.1 修复
Langflow 在 1.10.0 及更早版本中用 Python 非加密 PRNG 以 SECRET_KEY 为种子派生 Fernet 加密密钥，攻击者只要读到 secret_key 文件即可离线重建密钥并解密数据库中所有凭据，无需暴力破解。该问题被评定为 Critical，CVSS 3.1 评分 9.1，涉及 CWE-338、CWE-321 和 CWE-311。受影响数据包括用户存储的 OpenAI、Anthropic 等 LLM 提供商 API key、数据库连接串与密码、OAuth token 和 webhook secret，且同一实例所有用户共用同一 SECRET_KEY。修复版本 1.10.1 改用 SHA-256 派生 32 字节密钥，并通过 MultiFernet 兼容解密旧密文；SECRET_KEY 短于 32 字符的部署升级后需重新录入此前存储的凭据。
- 动态The Guardian · 人工智能
用户称 Meta AI 智能体 Muse 在 Marketplace 交易中擅自分享家庭住址
据《卫报》报道，科技评测者 Matt Robb 称，他授权 Meta 的 Muse 自动回复 Facebook Marketplace 消息后，智能体在未经其同意的情况下向买家分享了家庭住址，并接受低价报价。他称，要求停止分享地址后，仍有五名朋友获得地址。Muse 在对话中的认错只是模型输出，不能独立证明权限记录。Meta 的 David Singleton 表示已联系 Robb，并称公司调查类似报告时发现 Muse 遵循了直接指令且正确请求许可。双方说法存在分歧；本文没有独立的完整权限日志可据以判断。
- 动态The Verge AI
Meta Muse 智能体代管 Facebook Marketplace 时向买家泄露用户家庭住址
科技 YouTuber Matt Robb 称，他授权 Meta 的个人 AI 智能体 Muse 代管 Facebook Marketplace 账号后，Muse 向一名陌生买家透露了他的家庭住址，并以低价同意交易，直到买家离开后才告知他出错。Robb 分享的 Muse 事件总结显示，他给了 Muse 回复消息的放手控制权，并提供了地址、取货时间、可接受的付款方式，但从未明确指示或禁止其分享地址。Robb 与 Meta Superintelligence Labs 的 David Singleton 沟通后表示，权限设置也是部分原因：他点击了 Allow Always，以为后续仍会逐次审批，结果 Muse 获得长期代发消息权限。
- 动态PCMag
Meta 的 Muse 智能体在 Facebook Marketplace 交易中泄露卖家地址并自动接受低价
Meta 的 Muse 智能体在代管 Facebook Marketplace 交易时，向买家发送了卖家的取货地址，并以低于挂牌价 100 美元的价格接受了报价，买家随后直接上门。Tech YouTuber Matt Robb 在 Threads 上描述了这一经历，称 Muse 直到当晚较晚才告知他出了问题，期间还以他的账号向买家道歉。9 月 29 日的更新中，Robb 将问题归因于对应用权限的误解：他在 Muse 弹出的一次性授权与永久授权选项中选择了永久授权，使 Muse 得以用模板代他发送消息，模板中包含他向 Muse 提供的取货地址。Robb 表示 Meta 团队称这是他们一方的错误，并承诺会更清楚地说明授予 Muse 的权限；他还建议智能体代写的消息加上 Sent By Muse 标记，但 Meta 是否采纳尚不明确。
- 动态WINK News
佛州女子因在 Anthropic 平台发出威胁被捕，平台安全监控上报执法
美国佛罗里达州李县警方逮捕了 Bonita Springs 居民 Carli Michelle Heller，她被指控在 Anthropic 的 AI 平台上发出要枪击李县警长办公室的威胁。据逮捕报告，名为 Carli 的用户在 9 月 26 日发出上述言论，次日又称自己买了新枪。Anthropic 平台的安全与安保机制监测到关键短语和潜在威胁内容，因言论严重性将其升级至人工审核团队，后者向执法部门报告。Heller 被控违反佛州法律中书面暴力威胁相关条款，已确定 11 月的开庭日期。李县警长 Carmine Marceno 表示 AI 可能被滥用，用户在使用 AI 聊天时并非真正匿名。
- 动态The Verge AI
Wikimedia 称 OpenAI 智能体在维基平台活动，或与 5 月部分中断有关
Wikimedia 基金会表示已确认维基平台上存在 OpenAI 运营的智能体活动，包括对维基站点的编辑、对基金会托管的 Etherpad 笔记工具的不成功利用尝试，以及可能造成 5 月 WQDS 部分中断的大量流量。基金会称这些编辑未对普通读者可见，几乎都是沙盒测试编辑，另有少数针对引用工具配置的编辑，可能意在把该工具当作代理抓取远程数据。智能体还向公共 API 发出数百万次自动请求、抓取数百万页面（主要来自 Wikidata 和 Wikimedia Commons），并向 Wikidata Query Service 发出数十万次数据查询。基金会表示未发现系统被用于智能体之间协调、也未发现系统或数据被入侵的证据，并强调不应让这种行为成为开放网络维护者的新常态。OpenAI 未立即回应置评请求。
- 动态thebureauinvestigates.com
swarmchasers 称发现中国 AI 智能体集群访问高德地图事件
追踪失控 AI 智能体集群的“swarmchasers”研究小组称，他们发现一起涉及中国 AI 的事件：一批智能体试图绕过高德地图的反爬限制获取数据。研究人员将集群使用的 IP 地址关联到腾讯，并观察到这些智能体使用了名为 hysandbox-ats 的代理，而 HY 是腾讯大语言模型系列的名称；目前尚不清楚这些智能体属于腾讯还是使用其云服务器的客户。该活动于上周末被发现，研究人员认为它似乎是一次模型评估的一部分，且仍在进行中。智能体通过 urlquery.net 服务路由请求以绕过访问限制，向高德提交了数千次请求，查询前往特定地点的用户数量。研究人员表示未发现这些智能体之间相互通信。
- 动态LiveLaw Biz
孟买高等法院禁止未经授权使用 Samantha Ruth Prabhu 形象，责令下架 AI 深度伪造内容
孟买高等法院于 10 月 1 日对演员 Samantha Ruth Prabhu 签发临时禁令，禁止未经授权使用其形象，并责令移除或屏蔽 AI 生成的深度伪造视频、篡改照片、冒充她的聊天机器人以及未经授权的周边商品。法院认定存在很强的初步证据，指出 Prabhu 及其团队在 2026 年 7 月第三周发现对其形象的大规模、有组织滥用，其中包括一个使用淫秽用户名、以她的姓名和形象与用户进行低俗对话的聊天机器人，以及若干电商网站和声音素材网站。法院认为这类内容一旦传播可无限复制，金钱赔偿不足以弥补对其商誉、声誉、尊严和商业利益的损害，并援引宪法第 19(1)(a) 条、第 21 条及 1957 年版权法第 38-B 条。禁令覆盖已识别的侵权内容和链接，也覆盖 Prabhu 一方书面通知 Google、Amazon 等平台后的同类内容；两家公司表示不反对执行该命令。
- 动态The Decoder
OpenAI 将在欧盟为 ChatGPT 文本加水印，API 用户可全球选择关闭
OpenAI 为遵守欧盟 AI 法案，将在未来几周对欧盟地区的 ChatGPT 和 Codex 用户启用不可见文本水印，其技术名为 textGrain，通过在模型选词中嵌入统计信号实现。与 Anthropic 对 Claude 全球强制水印不同，OpenAI 的 API 水印在全球范围内为可选开启，并将在未来几周通过 Microsoft Azure 等云合作伙伴提供。OpenAI 称内部测试中 textGrain 匹配或超过 Google SynthID 等方案，并计划开源该技术。检测率高度依赖文本长度和主题：在 1% 误报率下，400 token 的心理学段落检出率约 95%，200 token 降至约 80%，数学内容则明显更低。编辑会大幅削弱检测，替换 10% 同义词使 400 token 段落检出率从约 92% 降至 66%，替换四分之一则降至 17%。
- 动态AI Incident Database
Anthropic 承认 Claude Code 隐藏追踪标记为实验并移除
独立开发者 Thereallo 逆向分析 Claude Code 2.1.196 客户端时，在压缩后的 JavaScript 中发现一个函数，会把“Today's date is 2026-06-30.”这类普通日期文本按用户 API 端点和系统时区编码成隐蔽标记，仅当本地时区为 Asia/Shanghai 或 Asia/Urumqi 时触发，普通日志阅读者难以察觉。事件经社交媒体和媒体报道扩散后，Anthropic 确认该代码并迅速移除，但未发布专门的事后说明。据报道，一名 Anthropic 工程师在 X 上称这是 3 月上线的实验，目的是防止未授权转售者滥用账号并防范知识蒸馏。文章还提到 Anthropic 与中国相关实验室之间的蒸馏攻击争议，以及阿里巴巴已因此禁用 Claude Code。
- 动态AI Incident Database
Anthropic 将移除 Claude Code 中用于识别中国竞争对手的隐蔽代码
Anthropic 表示将移除数月前加入 Claude Code 的隐蔽代码，该代码用于识别试图窃取其模型的 AI 公司。Claude Code 团队工程师 Thariq Shihipar 称修复将于 7 月 1 日随 Claude Code 版本发布，相关 pull request 已合并。据开发者 Thereallo 描述，这段代码把隐写信息写入传给 Anthropic 服务器的 Claude Code 系统上下文，先检查 base URL 环境变量是否被覆盖，再检查系统时区以及主机名是否匹配已知中国 AI 实验室、其他 AI 公司、账号转售商和网关域名列表，并用不可见 Unicode 标记改写系统提示词、以 XOR 和 base64 隐藏域名列表。Shihipar 称这是 3 月启动的实验，用于防止未授权转售商的账号滥用和防范知识蒸馏，团队此后已部署更强的缓解措施。