年龄验证为何是 AI 网络安全问题
年龄验证法要求用户向平台或第三方提交驾照、出生证明、护照乃至自拍等敏感身份信息，形成黑客可攻击的数据蜜罐。欧盟委员会推出的零知识证明年龄验证应用被安全顾问 Paul Moore 称可在不到两分钟内攻破；Discord 第三方供应商泄露约 7 万份政府签发身份证件，某暗网服务本月挂出 1.53 亿份美加驾照扫描件，据称可追溯至 IDScan.net。AI 让低水平攻击者更易得手，去年 71% 的组织遭遇至少一次身份相关安全事件，四分之一恶意入侵由 AI 驱动。
#隐私/数据泄露
今天还没有收录新动态今天还没有收录新动态
#隐私/数据泄露
今天还没有收录新动态
10月1日周四
星期四
Tech Policy Press（AI 相关） · WIRED Security and AI · OpenAI 推出常驻个人 AI 智能体 Dots，Meta Muse 同期竞争
OpenAI 在年度 DevDay 上发布名为 Dots 的常驻 AI 智能体，由 GPT-6 Astra 模型驱动，能主动完成任务并自主决策浏览网页，目前仅向每月至少 100 美元的 Pro 订阅用户开放，未来计划推向大众市场。记者实测将其命名为 Toolie，让它翻查 ChatGPT 历史记录并标记三项待办任务，同时对比了自己此前使用的 Meta Muse——后者面向所有下载 App 或访问网站的用户免费提供。两家公司将可爱外观作为吸引用户的策略之一，专家称这种设计可能让用户对被拟人化的软件产生情感依赖。
9月17日周四
星期四
Adversa AI · 为什么 vibe coding 安全会成为企业下一个噩梦
vibe coding 正让企业充斥未经安全审查的自建应用，传统安全工具无法看见它们。Gartner 预计到 2028 年企业 40% 的新生产软件将由 vibe coding 工具生成；Veracode 发现 45% 的 AI 生成代码样本未通过安全测试，GitGuardian 2026 报告在 MCP 配置文件中发现 24,008 个唯一密钥泄露，CVE-2025-48757 影响 170 个 Lovable 生成项目。禁用 vibe coding 无效，安全团队需转向工具市场准入、数据分类与自动化护栏。
8月25日周二
星期二
Transformer · 我们正梦游般走向 AI 监控反乌托邦
现有大语言模型已足以支撑一套实时监控系统：整合多源情报、实时分析并"建议"警方抓谁、去哪抓，而相关技术早已广泛部署。文章推演了一个近未来场景——FBI 以监控外国干预为名运营数百个 AI 机器人账号，渗透 Signal 和 Telegram 群组，结合批量购买的公共数据集、人脸识别与车牌追踪摄像头（如 Flock 运营的系统）锁定抗议者身份。作者认为，是否走向全面监控如今只取决于政策与预算优先级，不再受技术研发进度限制。
4月9日周四
星期四
Wiz Research · Wiz Research 2026 云威胁回顾：AI 改变了什么，又没改变什么
Wiz Research 回顾 2025 年公开云事件、云遥测与实地调查发现，约 80% 的云入侵初始访问仍来自漏洞、暴露密钥和错误配置等已知弱点，AI 并未引入全新类别的云风险，而是扩大了攻击面，新增 AI 服务、流水线、身份和数据路径让这些老问题更靠近敏感数据与高价值负载。在 Wiz Research 分析的事件中，AI 主要用于辅助和加速侦察、自动化及访问后活动等既有攻击行为。
3月4日周三
星期三
Windows On Theory（Boaz Barak） · Boaz Barak 谈大规模监控红线与 OpenAI 与 DoW 的合同
OpenAI 的 Boaz Barak 撰文表示，AI 对民主的伤害是被低估的重要风险，而 OpenAI 与 DoW 签署的合同提供了推进这一议题的机会。他认为合同文本本身不是关键，真正的考验在于后续护栏、安全栈与驻场工程师能否确保模型不用于对美国民众的大规模监控，包括对商业可得信息的分析。他提到合同明确禁止将模型用于国内大规模监控，且目前不与 NSA、DIA 等 DoW 情报机构合作，若情况变化领导层承诺公开说明；合同也禁止用模型直接指挥致命自主武器。他主张像对待生物武器和网络安全一样，为 AI 导致民主被接管、大规模国内监控和高风险自动化决策建立最佳实践与评测追踪，并称现在宣布胜利为时过早。
7月22日周二
星期二
Rising Tide（Helen Toner） · 个性化 AI 正在重演社交媒体最糟糕的那一套
CDT 旗下 AI Governance Lab 负责人 Miranda Bogen 撰文指出，OpenAI、Google 等公司的记忆功能和基于多年行为画像的用户档案正把个性化推向更深层风险——系统能记住对话中的职业安排乃至家庭矛盾、人际纠纷等信息，其危害可能超过社交媒体推荐算法造成的操纵与歧视，而已有的 AI 安全框架主要针对基础模型的固有能力和国家安全威胁，并未设计来应对这类由个人数据积累引发的新风险类别。
3月11日周二
星期二
Nicholas Carlini Writing · Nicholas Carlini 谈隐私论文为何不能被用来论证生成式 AI 版权问题
机器学习研究者 Nicholas Carlini 撰文说明其记忆化（memorization）研究的出发点是隐私与安全而非版权，因此法律案件不宜直接援引他的论文作为证据。他指出可从其研究中得出的唯一可靠结论是：模型有时会逐字输出训练数据——例如他在 2020 年从 15 亿参数的 GPT-2 中提取出仅 600 条独特训练样本，但这既不能证明所有模型的常规行为，也不能支撑“模型必然侵犯版权”的主张。
12月19日周四
星期四
SPY Lab Blog · SPY Lab 立场论文：成员推断攻击无法证明模型训练使用了你的数据
SPY Lab 在将发表于 SaTML 2025 的立场论文中论证，成员推断（MI）攻击在向法官等第三方证明 GPT-4 等生产模型训练使用了特定数据时存在根本性缺陷。作者将训练数据证明形式化为假设检验，指出其关键在于证明假阳性率（FPR）足够低，而现有研究通过采样零假设来估计 FPR，必须完全控制数据生成与模型训练过程。
10月18日周三
星期三
雷峰网安全频道 · 安全大模型层出不穷：安恒、360、奇安信等网安厂商也忍不住了
安恒信息、360、奇安信等多家安全厂商相继发布安全大模型，网络安全行业加速拥抱GPT。安恒恒脑·安全垂域大模型已用于成都大运会及杭州亚运会，安全运营成效提升70%以上；奇安信推出Q-GPT安全机器人，360则以安全大模型打造智能中枢系统。但多位
12月5日周六
星期六
Nicholas Carlini Writing · InstaHide 获贝尔实验室奖二等奖引发争议
Nicholas Carlini 撰文批评 InstaHide 获得贝尔实验室奖二等奖，称其根本不提供隐私保护——给定编码图像即可高保真还原输入数据，且该方案无可证伪的隐私声明并存在实现缺陷导致额外攻击路径。
已经到底了