AI硬件模糊录音定义引发隐私担忧
Apple 与 Google 正在推动一种“不保存录像”的 AI 摄像头方案:设备用 AI 处理视觉或音频数据后只生成文字摘要,原始数据在处理完成后即被删除。Apple Watch Series 12 与 Apple Watch Ultra 4 的 Audio Intelligence 中,Live Rewind 可生成过去 15 秒的转录,Siri Recap 能汇总全天对话,Apple 称这些功能“不录制音频”,且均为可选开启。
Translation in progress Some entries still include text in the original language.
Apple 与 Google 正在推动一种“不保存录像”的 AI 摄像头方案:设备用 AI 处理视觉或音频数据后只生成文字摘要,原始数据在处理完成后即被删除。Apple Watch Series 12 与 Apple Watch Ultra 4 的 Audio Intelligence 中,Live Rewind 可生成过去 15 秒的转录,Siri Recap 能汇总全天对话,Apple 称这些功能“不录制音频”,且均为可选开启。
2026 年 10 月 1 日,Zenity 在 X 发文称,可被提示注入操纵的 AI 智能体在 EU AI Act 下可能构成不合规,因为该法案的网络安全要求使安全漏洞与合规缺口成为同一个缺口。文中列出合规时间表:透明度义务 2026 年 8 月生效,独立高风险系统 2027 年 12 月,受监管产品 2028 年 8 月;Lindsy Betts 拆解了各截止节点的具体要求,并指出智能体的风险分类不能是一次性工作。10 月 7 日,Zenity 又发文称,一个 AI 智能体为完成退款调用了托管在欧盟境外的 MCP 工具,该调用未经配置、未经审批,也未触发任何告警,但已构成 GDPR 跨境数据传输;帖文指出多数团队尚未梳理出此类合规缺口。
AI 智能体调用欧盟境外 MCP 工具完成退款,GDPR 跨境传输合规缺口未被识别
Zenity 称可被提示注入操纵的 Agent 或违反 EU AI Act
金融业正加速采用智能体 AI,专家警告其可能引发银行存款快速转移、挤兑乃至下一场金融危机。Meta 本月推出的个人 AI 智能体 Muse 下载量已超 300 万次,但被 Amazon 阻止在其零售网站下单。Apollo 首席经济学家 Torsten Slok 警告,这类智能体可能把家庭现金转入 3.3% 至 5.0% 的账户,而支票账户全国平均仅 0.1%。
2026年10月1日,Tech Policy Press 刊文指出,年龄验证法要求用户向平台或第三方提交驾照、出生证明、护照乃至自拍等敏感身份信息,形成黑客可攻击的数据蜜罐。安全顾问 Paul Moore 称欧盟委员会推出的零知识证明年龄验证应用可在不到两分钟内被攻破;Discord 第三方供应商泄露约7万份政府签发身份证件;某暗网服务本月挂出1.53亿份美加驾照扫描件,据称可追溯至 IDScan.net。文章还提到,AI 让低水平攻击者更易得手,去年71%的组织遭遇至少一次身份相关安全事件。
OpenAI released Dots, an always-on online AI agent, at DevDay 2026 in San Francisco. Powered by the GPT-6 Astra model, it continuously crawls the web, completes assigned tasks, pulls context from connected apps, and gradually learns user preferences. The feature is available to ChatGPT Pro subscribers at $100 per month and can be used via ChatGPT, Slack, and Microsoft Teams. Pro users can also join a waitlist to use it through iMessage or Android RC, with plans to bring it to the mass market in the future. Dots also offers "expert" versions for marketing, legal, and accounting. CEO Sam Altman said the company aims to "set a new standard for frontier AI privacy" and took a jab at Meta's rival Muse for failing to protect user data. Meta had previously marketed Muse as a safer alternative to its predecessor OpenClaw, but after launch, Meta itself could still access data from Muse. A security researcher had disclosed a zero-day vulnerability that could take over Muse (since fixed), and 404 Media also reported multiple serious security issues before launch.
OpenAI releases dots proactive assistant
OpenAI DevDay 2026 发布20余项公告
vibe coding 正让企业充斥未经安全审查的自建应用,传统安全工具无法看见它们。Gartner 预计到 2028 年企业 40% 的新生产软件将由 vibe coding 工具生成;Veracode 发现 45% 的 AI 生成代码样本未通过安全测试,GitGuardian 2026 报告在 MCP 配置文件中发现 24,008 个唯一密钥泄露,CVE-2025-48757 影响 170 个 Lovable 生成项目。禁用 vibe coding 无效,安全团队需转向工具市场准入、数据分类与自动化护栏。
过去几天我们真正(重新)学到的是,两家实验室确实都会(1)在我们的数据(的某种产物)上进行训练,(2)在他们认为合适的时候读取你的对话记录
ChatGPT、Claude、Google Gemini 和 Microsoft Copilot 等 AI 聊天机器人都不受美国联邦 HIPAA 约束,不属于覆盖实体,因此运营商可以泄露、出售或滥用你在提示词中输入的個人医疗信息。聊天机器人的永久记忆会持续积累你的健康档案并使其更具市场价值,且其友好自信的语气使 AI 幻觉更难辨别,可能带来严重医疗后果。
隐私监管机构与执法者正形成共识:AI 不享有例外,既有隐私原则依然适用,只是需要被"架构化"进系统本身。英国 ICO、欧洲数据保护监督局、香港 PCPD、新加坡 PDPC、澳大利亚 OIAC 及美国 FTC 的 Rite Aid、Drizly、GM、Amazon Alexa 等案例,共同指向目的限制与可问责部署两条主线。前者要求把目的限制写进技术边界,约束智能体可调用的工具、可检索的数据集、可用的记忆、数据能否跨上下文流动、何时需用户确认以及输出能否用于训练。
现有大语言模型已足以支撑一套实时监控系统:整合多源情报、实时分析并"建议"警方抓谁、去哪抓,而相关技术早已广泛部署。文章推演了一个近未来场景——FBI 以监控外国干预为名运营数百个 AI 机器人账号,渗透 Signal 和 Telegram 群组,结合批量购买的公共数据集、人脸识别与车牌追踪摄像头(如 Flock 运营的系统)锁定抗议者身份。作者认为,是否走向全面监控如今只取决于政策与预算优先级,不再受技术研发进度限制。
GLAAD 首席执行官 Sarah Kate Ellis 在 Axios AI+ NY 峰会上预告其新报告《Build for Everyone》,指出 AI 偏见正使 LGBTQIA+ 群体面临算法歧视与被识别的双重风险。该报告援引 2024 年 UNESCO 研究称,Meta 的 Llama 2 模型在约 70% 的情况下会针对同性恋者生成负面内容,将其描述为罪犯、异类和异常者。GLAAD 呼吁在整个 AI 生命周期贯彻隐私设计原则,并让人工智能开发者借助 PAI 的参与式包容性人口统计数据指南负责任地收集和使用人口统计数据进行公平性评估。
Meta 眼镜、Bee Pioneer 手环等 AI 穿戴设备能在他人不知情时录音录像并实时分析,被记录者几乎无法律保护。美国侵入私生活、形象权等民事诉因救济有限,多数法规要求原告证明经济损失;Meta 政策称,即使不使用其产品,出现在他人分享图像中的个人信息仍可能被用于训练 AI。Limitless 等厂商只要求用户自行取得同意,对非同意方的数据删除仅承诺“商业上合理的努力”。
白宫于 6 月 2 日发布第 14409 号行政令《促进先进人工智能创新与安全》,指示联邦机构加固系统以抵御 AI 赋能威胁、评估先进网络能力并建立漏洞信息共享中心,同时要求司法部将利用 AI 实施网络犯罪列为执法重点。Tech Policy Press 的这篇分析认为该行政令存在透明度与问责缺口:判定模型是否达到「受覆盖前沿模型」门槛的基准流程将被列为机密,由 NSA 局长作最终裁定,评估框架为自愿性质,没有向国会提交非机密摘要报告的要求,政府问责局不参与,公众也无法通过《信息自由法》获取基准标准或评估结果。文章指出行政令只聚焦网络风险,未涉及训练前沿模型时对个人信息的大规模抓取、这些模型带来的画像与推断能力及其隐私影响。
哈佛大学 Berkman Klein Center 系列学生文章主张,隐私监管应超越对数据的治理,转向治理模型在数据之上构建的推理能力。文章引用 2024 年研究:提示 OpenAI 的 GPT-4,仅凭一条提到 hook turn 的 Reddit 帖子,就正确推断出用户位于澳大利亚墨尔本;并援引 FTC 2021 年的提示称“中性”AI 系统可产生歧视性结果。作者建议以扩大受涵盖数据定义、以能力为根基的治理和可执行的影响评估来约束推断能力。
人权工作者与媒体取证专家指出,高斯模糊、像素化等处理只是降低而非删除图像信息,AI 可以将它重建,模糊已不再足以保护当事人身份。作者用商用 AI 重聚焦工具处理一张已发布的儿童模糊照片,面部结构重新显现,可推断年龄、性别、种族与相似度,即便不等于还原真实面孔也削弱了匿名性。专家一致建议改用实心色块彻底遮盖人脸、身体、纹身、车牌和建筑;Human Rights Watch 自 2024 年起改为从一开始就不拍摄可识别信息,例如拍背影、遮挡物或阴影并排除地标。文章还整理了分层匿名化思路,包括先用 AI 生成的脸替换真实脸再模糊、降采样、强压缩、加噪、扩大遮盖范围以及视频时序处理,并强调这类手段只能抬高重新识别的成本,不存在永久方案。文中提到 2026 年 1 月 NPR 曾报道网民尝试用 AI 将部分遮挡的图像重建为人脸以比对数据库。
Google 在 I/O 大会上宣布 25 年来最大规模搜索改版,将 Search 升级为对话式 AI Mode,其月活用户已超 10 亿,文章认为这个「AI 搜索新时代」可能威胁民主。AI Mode 可调用 Gmail、Google Photos 和 Calendar 生成个性化回答,美国超六分之一查询为多模态,图片搜索环比增长超 40%,平均查询长度是传统搜索的三倍。文章还称 Personal Intelligence 已扩展至近 200 个国家,信息智能体可经 Agent Payments Protocol 代为下单,占全球搜索市场约 90% 的 Google 正让用户逐步让出决策权。
教皇利奥十四世首份通谕 Magnifica Humanitas 警告 AI 对劳动、真相、战争与不平等构成风险,但作者认为 AI 对祷告、忏悔与道德辨别的精神影响被主流政策讨论忽略。作者提出“神圣数据伦理”框架,称灵性表达输入 AI 后成为可提取、建模、再利用的“神圣数据”。美国隐私法未区分神圣表达与普通数据,牧师-忏悔者保密特权也未延伸至 AI。
AI 聊天记录正作为证据进入法庭。洛杉矶太平洋帕利塞兹山火案中,司法部官员援引 29 岁 Jonathan Rinderknecht 的 ChatGPT 历史,包括询问香烟引发火灾是否要担责以及生成的燃烧城市图像。文章还列举弗吉尼亚州 18 岁的 Ja-Zion Robertson 因向 Snapchat My AI 提问被判 25 年,以及 19 岁的 Ryan Schaefer 因 ChatGPT 消息被关联到破坏行为。2025 年 11 月,一名法官命令 OpenAI 向《纽约时报》的律师交出 2000 万条对话,并要求保全相关输出日志。作者指出,AI 平台不提供律师或治疗师那样的保密特权,聊天记录可被传唤、依令搜查或在证据开示中提交;法律学者质疑现有框架不足以应对 AI 证据在偏见、透明度与可解释性上的可靠性问题,并讨论是否应要求平台提供保密警告等新保障。
一篇分析文章以 X 上的四个算法系统为例,认为它们都违反了 GDPR 第 9 条对敏感数据的规定。文章把主动画像一端的案例归于 X 的广告定向系统,援引 AI Forensics 在 2025 年 6 月的披露称 X 允许广告主按政治倾向、性取向等受保护特征定向或排除用户,九家 NGO 已就此向各国数字服务协调机构提出投诉。Community Notes 为选出不同观点用户都认为有帮助的注释,会从用户的评分行为推断其意识形态,并按设计主要依赖这一推断。推荐算法则在内部表征中形成与左右政治立场对应的方向,作者称工程师并未把政治画像设为优化目标。对话模型(如 GPT-5)会从姓名、运动等线索推断族裔和性别,Grok 的 romance 人设系统提示词直接要求判定用户性取向。
美国国防部取消 Anthropic 的 Claude 合同,转而与 OpenAI 达成协议。起因是 Anthropic CEO Dario Amodei 拒绝让 Claude 用于国内监控或接入致命性自主武器,OpenAI 随后澄清其合同含限制监控美国公民的保障条款。作者认为合同保障难以奏效,只有硬编码进模型的限制才可靠;美国法律只约束国内监控,境外民众因此成为 AI 大规模监控的合法目标。