Skip to content

Translation in progress Some entries still include text in the original language.

Google DeepMind · News

Oct 13 · Tuesday

Google DeepMind · News

Latest publications and developments
Oct 9Fri
  1. TechCrunch AI, Goodfire ResearchTechCrunch AI · 2 sources · 2 reports · 43

    Goodfire 部署生产级模型内部监控

    Goodfire 发布“由内而外”监控器,通过 Baseten 向客户提供,可在智能体运行中实时读取模型内部激活信号,由探针触发二次核查。在 Kimi K3 上测试约 1,500 次会话,监控成本约 51 美元,而用廉价模型逐步检查需 233 美元、顶级模型约 10,000 美元;探针捕获 94% 的恶意黑客会话,把 8.7% 的无害会话送去复核。客户可选监控攻击性黑客、化生武器滥用和奖励作弊等风险。另一篇报道称,Goodfire 为 Kimi K3 和 GLM 5.3 构建基于探针的网络安全监控系统并部署在生产推理栈上,探针作为一线过滤器,只把可疑交互升级给 LLM 裁判,在 5.5% 良性会话中断率下达到约 93% 召回,成本低于每百万次交互 200 美元,比逐轮调用裁判便宜约 50 倍,且不增加推理延迟;在 FAR.AI 为期两天、基于 140 个越狱策略的静态红队测试中,启用监控后通用越狱从 66 个降到 0 个。

Oct 2Fri
  1. Google DeepMind, Help Net Security AI · 3 sourcesGoogle DeepMind · 3 sources · 4 reports · 43

    Google DeepMind releases SynthID Bio protein watermarking technology

    Google DeepMind releases SynthID Bio, bringing watermarking technology to synthetic biology by embedding imperceptible signatures directly into biological code, so the watermark can be verified both on digital models and on synthesized physical proteins while preserving their biological function. The method adapts its strategy by data type: fine-tuning amino acid choices for sequences and adjusting atomic coordinates for predicted 3D structures. The team paired the AlphaProteo design method with a ProteinMPNN sequence generator with SynthID Bio, ran experiments on targets such as VEGF-A, the SARS-CoV-2 spike protein receptor-binding domain, and PD-L1, and verified through wet-lab experiments that the watermark does not impair protein function. DeepMind says this is a world first, embedding signatures into protein sequences without affecting biological function. Additionally, DeepMind discussed in a podcast the role of provenance and how imperceptible watermarks can protect digital media and biological designs.

    Latest developments
    1. Google DeepMind podcast introduces SynthID watermarking technology

    2. Google DeepMind releases SynthID Bio protein watermarking technology

Sep 24Thu
  1. Wiz Research · 28

    Wiz 联合 Google DeepMind 发起 Scan for Good,用 AI 排查公共服务与关键基础设施暴露风险

    Wiz Research 启动 Scan for Good 计划,借助 AI 加人工研究员的方式,帮助公共服务、关键基础设施和非营利组织在网络犯罪分子之前发现并修复高危暴露问题。该计划由 Google DeepMind 提供合作,并与美国网络安全和基础设施安全局(CISA)协作推进。 早期成果已验证其效果:团队通过自主运行的 AI 系统发现了大量面向公网的严重暴露,并在受影响组织的配合下完成了修复,其中一起是国家档案馆管理员密钥泄露,导致 880 万个文件面临读写删除风险。

Jul 16Thu
  1. Google DeepMind · 29

    Google DeepMind 与 Isomorphic Labs 联合公布生物韧性方案

    Google DeepMind 与 Isomorphic Labs 公布了双方应对生物韧性的联合方案,一方面防范威胁行为者滥用其模型,另一方面帮助政府、科研机构和生物安全专家借助 AI 建设更具韧性的社会。过去 12 个月,两家机构推进了超过 15 项合作,覆盖预防、检测与响应三个方向:Gemini 遵循四步安全流程并尝试将 SynthID 水印扩展到生物学用途,AlphaEvolve 优化宏基因组测序算法以加快疫情侦测,Isomorphic Labs 则设立专门团队快速调用药物设计引擎研发医疗对策。该工作属于其对 CBRN 风险的整体管理的一部分,并与 Frontier Safety Framework 相衔接。

Jun 16Tue
  1. Google DeepMind · 50

    Google DeepMind 发布 AI Control Roadmap,用纵深防御保障内部 Agent 安全

    Google DeepMind 发布 AI Control Roadmap,用于在 Google 内部署和管理先进 AI 时提供系统级安全保障。该框架采用纵深防御思路,在沙箱、端点安全和提示注入抵抗等传统防护之上,把模型对齐作为主要防线,同时把内部 Agent 视为可能未对齐的对象,按已验证行为逐步授予权限。路线图借鉴 MITRE ATT&CK 构建 AI 威胁建模框架,将不可信 Agent 当作内部威胁拆解为具体战术与技术,并用可信 AI 系统作为监督者审查工作 Agent 的推理、行动和计划,必要时阻断有害操作。

Nov 4, 2025Tue
  1. DeepMind Safety Research · 50

    DeepMind 提出一致性训练,可限制谄媚与越狱

    DeepMind Safety Research 提出一致性训练,让模型对用户偏见或越狱包装等无关线索保持不变,分为输出层的 BCT 和内部激活层的 ACT。在 Gemini 2.5 Flash 上,BCT 将 ClearHarm 上的攻击成功率从 67.8% 降至 2.9%,ACT 降低越狱的效果较弱但几乎不增加对良性请求的拒答。

Date unverified
  1. Lakera Blog · 16

    Check Point 与 Google Cloud 合作,为 Gemini Enterprise Agent Platform 上的 AI 智能体提供结果控制

    Check Point 联合 Google Cloud,将 AI Defense Plane 接入 Gemini Enterprise Agent Platform,把智能体安全从访问控制扩展到结果控制。该集成通过 Agent Gateway 和 Agent Registry 实现智能体发现、部署前策略治理与运行时上下文感知防护,可检测并阻断提示注入、防止敏感数据泄露、在执行前评估工具调用。集成将于 2026 年 6 月下旬开放。

You have reached the end