跳到正文

隐私与数据泄露

今天新收录 5 条
隐私与数据泄露

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindMetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架

第 2 页更新的内容回到最新

10月2日周五
  1. Help Net Security AI · 收录 · 原文 31

    Delinea 报告：AI 智能体任务结束后仍保有企业数据访问权限

    Delinea《2026 身份安全报告》指出，AI 智能体和工具的权限在工作完成后依然有效，可持续接触客户记录、员工信息、财务数据、安全日志和源代码，直到过期或被撤销。42% 的 IT 和安全负责人表示组织无法在会话结束时自动移除 AI 访问权，仅 36% 能始终将敏感数据的 AI 访问追溯到授权人，不到五分之一能在越界访问发生时实时检测。

    治理#Agent 安全#隐私与数据泄露#供应链安全#真实事件
    1 条报道 · 1 个来源查看事件时间线与全部报道
  2. Tech Policy Press · 收录 · 原文 39

    德国移民领域 AI 草案 KIMVG 引发权利与偏见担忧

    德国内阁于 7 月 29 日通过《移民管理 AI 法》草案（KIMVG），拟修订《庇护法》和《居留法》，允许在签证、居留与庇护程序中以三种方式使用 AI：对已结案件做自动化程序监测、在证据存在矛盾或不可信时自动比对申请人陈述与互联网及社交媒体来源、以及使用个人数据训练和测试自有 AI 系统。草案称此举是为应对人手不足、提升效率与程序安全，但正文指出首次庇护申请量已从 2023 年的 33 万降至 2025 年约 13 万，且未计入新增人员、培训与技术基础设施成本。文章还列举透明度、办案人员培训、跨机构系统兼容、无国籍等复杂情形以及网络活动自动检索的边界等待解问题，并援引德国方言识别软件与荷兰 GeoMatch 算法被叫停的先例，呼吁在系统建设前设立独立跨学科专家委员会。

    治理#AI 控制#隐私与数据泄露#政策与监管
  3. Tech Policy Press · 收录 · 原文 46

    美国 12 州陪伴型聊天机器人法律对 AI 提供商提出了哪些要求

    美国已有 12 个州通过针对陪伴型聊天机器人的法律，纽约、加州和夏威夷的相关法规已生效，其余九州将于 2027 年生效。这 12 部法律的共同规制重点包括：向用户明示对话对象是 AI、对未成年用户的加强保护、自杀意念与自我伤害危机的检测及资源转介协议，以及禁止声称具备心理健康专业人员资质或提供持牌专业服务。各州在产品覆盖范围和具体义务上有明显差别，华盛顿还进一步要求防止聊天机器人自称人类，科罗拉多和佐治亚则规定需以商业合理方式估算用户年龄。科罗拉多总检察长于 8 月 11 日发布了《Chatbot Safety Act》配套拟议规则，细化了对技术上可行措施与合理措施的认定因素，涵盖保障手段的有效性和测试、监测、补救及相关文档记录情况，公众意见截止到 10 月 26 日。

    治理#Agent 安全#隐私与数据泄露#政策与监管
10月1日周四
  1. 雷峰网安全频道 · 收录 · 原文 6

    对话亚信安全：为什么我们需要新一代终端安全？

    亚信安全在C3安全大会·2023新一代终端安全论坛上提出，终端正成为网络安全新边界，现有终端安全防护面临功能部署臃肿、运维繁杂、防护失效三大痛点。亚信安全终端安全产品总经理汪晨称，85%的黑客攻击潜伏在网络加密流量中，需在终端侧增强才能看清威胁。6月29日，亚信安全推出新一代终端安全品牌TrustOne，以“极简新”为理念，集产品能力、部署、管理、运维一体化，具备原子能力化、攻击面管理、风险治理数字化、已知未知攻击检测响应和一体化平台化五方面能力。

    治理#后门与投毒#隐私与数据泄露#AI 动态
  2. WIRED Security and AI · 收录 · 原文 20

    OpenAI 发布常驻在线 AI 智能体 Dots，由 GPT-6 Astra 驱动并瞄准 Meta Muse

    OpenAI 在旧金山 DevDay 2026 上发布了名为 Dots 的常驻在线 AI 智能体，由其 GPT-6 Astra 模型驱动，可持续爬取网页并按指派完成任务，从连接的 App 中获取上下文并逐步学习用户偏好。该功能今日面向每月 100 美元的 ChatGPT Pro 订阅用户开放，可通过 ChatGPT、Slack 和 Microsoft Teams 与其对话，Pro 用户还可加入候补名单通过 iMessage 或安卓 RCS 短信联系自己的 Dot。企业客户将获得针对会计、邮件营销和法律分析的 specialist Dots，执行安装软件、修改密码等敏感操作前需获显式批准，并可启用 Custom Rules 设定边界。

    治理#OpenAI#Meta#Agent 安全#隐私与数据泄露#AI 动态
    1 条报道 · 1 个来源查看事件时间线与全部报道
  3. Wiz Research · 收录 · 原文 15

    Wiz 解读 Verizon DBIR：AI 加速攻击与云环境扩张如何冲击现代防御

    Wiz 在为 Verizon《数据泄露调查报告》（DBIR）贡献的研究中发现，已知被利用漏洞（KEV）中仅 26% 被完整修复，另有 16% 完全未被处理，同时组织需处理的 KEV 中位数从 11 升至 16，修复周期由 32 天延长至 43 天。报告还指出，第三方参与的入侵占比同比从 30% 升至 48%，漏洞利用已成为首要初始访问途径，占全部泄露事件的 31%。Wiz 观察到 AI 更多是在加快侦察、凭证窃取与事后自动化，而非改变入侵方式，并建议将既有的治理与可见性管控同样应用于 AI 系统。

    治理#Agent 安全#隐私与数据泄露#供应链安全#真实事件
  4. CSA Labs Research · 收录 · 原文 43

    NIST 发布 SP 800-239 AI 数据中心安全框架草案

    NIST 于 2026 年 7 月 27 日发布 SP 800-239《AI 数据中心安全分析：高性能计算驱动方法》初始公开草案，公众意见期已于 9 月 25 日结束。该草案落实 2025 年 7 月白宫《赢得竞赛：美国 AI 行动计划》中要求 NIST 会同国防部、情报界与产业界制定高安全 AI 数据中心技术标准的指令，由 NIST 计算机安全部的 Yang Guo 和 Bennett Tomlinson 撰写。

    治理#隐私与数据泄露#供应链安全#政策与监管#前沿安全框架
    1 条报道 · 1 个来源查看事件时间线与全部报道
  5. Anthropic Research · 收录 · 原文 7

    Anthropic 启动新一轮访谈研究：向公众征集对 AI 的真实期待

    Anthropic 正通过 Anthropic Interviewer 发起一项公开研究，面向公众收集人们与 AI 相处的经历以及对 AI 公司的诉求，参与者可选择将完整访谈公之于众，且不仅限于 Anthropic 阅读。 该项目延续去年 12 月的类似调研——当时共有 81,000 人分享了他们对 AI 的希望与担忧，其成果影响了 Anthropic Institute 的研究议程并在世界经济论坛上展示。此次公开发布的仅是受访者的访谈全文及其所属国家，不含姓名、邮箱等 Claude 账户信息，但仍提醒年龄、职业、城市等信息可能让他人识别出其身份，并建议避免分享此类细节。

    治理#Anthropic#隐私与数据泄露#观点与讨论
    1 条报道 · 1 个来源查看事件时间线与全部报道
已经到底了