跳到正文

Google 安全 · 精选

10月9日 · 周五

Google 安全 · 精选

今天还没有新的精选
Google 安全

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
10月1日周四
  1. Google Security · 43

    Google 详解 Gemini 抵御间接提示注入的分层防御策略

    Google GenAI 安全团队介绍了 Gemini 针对间接提示注入的分层防御策略，覆盖提示词生命周期的各个阶段。该策略包括对 Gemini 2.5 模型进行对抗数据训练以增强模型韧性，并叠加五项内置防御：提示注入内容分类器、安全思维强化、Markdown 清洗与可疑 URL 屏蔽、用户确认框架以及面向终端用户的安全缓解通知。

  2. Google Security · 50

    Chrome 公布智能体能力的分层安全架构

    Chrome 安全团队公布了针对 Gemini 智能体浏览能力的分层防御设计，核心应对威胁是间接提示注入。团队引入 User Alignment Critic，由与不可信内容隔离的独立模型在规划完成后复核每个拟执行动作，判断其是否符合用户目标，不通过则否决并反馈给规划模型重新规划。Chrome 还扩展同源隔离理念提出 Agent Origin Sets，把每个会话的来源分为只读与可读写两类，只允许智能体读取任务相关来源的数据，并限制数据只能流向可写来源，模型生成的 URL 需经确定性检查限定为已知公开 URL。

  3. Google Threat Intelligence · 50

    GTIG 报告：攻击者转向智能体 AI，六小时内完成大规模凭据窃取

    Google Threat Intelligence Group（GTIG）发布 2026 年第二季度 AI 威胁追踪报告，指出攻击者已从基础提示词交互转向智能体 AI 工作流与 AI 自动化。报告称，2026 年第二季度 GTIG 观察到威胁行为者先攻陷云资源，随后在不到六小时内规划、构建并执行了一次由智能体驱动的大规模凭据窃取行动，压缩了防御方的响应窗口。

  4. Google Threat Intelligence、Help Net Security AI 等 3 个来源Google Threat Intelligence 等 3 个来源 · 3 篇报道 · 56

    GTIG报告：AI时代漏洞披露与利用趋势

    Google Threat Intelligence Group（GTIG）发布《Vulnerability Discovery and Exploitation Trends in the AI Era》，分析 2025 年 1 月至 2026 年 8 月的漏洞披露与利用数据。报告称月度 CVE 披露量从 2026 年 1 月的 5,045 增至 8 月的 10,740，仅约 0.23% 被观测到在野利用，但前八个月已有 141 个漏洞被利用，超过 2025 年全年的 127 个，增长主要来自 n-day。被判定为可能由 AI 发现的漏洞中，50% 可导致远程代码执行，而整个 CVE 生态中这一比例为 26%。报告累计追踪 2,076 个 AI 相关样本。

9月30日周三
已经到底了