跳到正文

#Google DeepMind

今天收录 1 条
今天10月2日周五
  1. WIRED Security and AI ·

    特朗普的“道德约束”AI 协议、AI 智能体崛起与极端候选人参选

    在白宫与特朗普会面后,多家 AI 公司高管签署了一份名为《White House Accord on Super Intelligence》的“道德约束”自愿协议,承诺对模型实施内部评估、外部审计机构审查和公司董事会复核四层控制与审计。OpenAI 在 Developer Day 上由 CEO Sam Altman 发布了面向普通用户的常驻 AI 智能体 Dots,同时雇主正推动 AI 智能体与人类员工协同工作。本期节目还讨论了美国中期选举中的极端候选人,包括一名退役陆军上校转型的 Pentagon 网红。

10月1日周四
  1. Help Net Security AI ·

    Google 发布 Gemini 4 Argon,称可自主发现并修补关键软件漏洞

    Google 发布前沿模型 Gemini 4 Argon,并通过 Fairwind Program 向一批受信任的网络防御方开放,称该模型能自主定位、验证并修补关键软件漏洞,同时会向这些防御方及 Google 内部团队提供不带网络护栏的版本。开发者、企业和消费者稍后可用,先面向付费 API 客户和 Google AI Ultra 订阅者。Google 表示这一能力级别需要分阶段发布,仍在根据早期测试者反馈调整护栏,并参与美国政府关于发布前模型访问的自愿流程;发布前加强了针对网络及化学、生物、放射和核滥用的防护,由内部和外部红队测试,并有监控系统观察其推理与行动、必要时中止执行。

9月30日周三
  1. Google Threat Intelligence(GTIG) · 71

    GTIG 报告:AI 时代漏洞披露与利用趋势

    Google Threat Intelligence Group(GTIG)分析 2025 年 1 月至 2026 年 8 月的漏洞披露与利用数据,认为 AI 正在改变漏洞发现与利用的速度和风险结构。月度漏洞披露量从 2026 年 1 月的 5,045 增至 7 月的 10,477,8 月达到 10,740;在野利用从 2025 年月均 10.5 升至 2026 年月均 18,零日利用仅从月均 8 微增至 11。高风险漏洞披露从 1 月的 131 增至 8 月的 350,增长 167%,主要由 TOTOLINK 路由器固件批量披露以及 Oracle 季度补丁与 Linux 内核网络驱动公告推动。

    推荐理由GTIG 用 20 个月数据量化 AI 对漏洞发现与利用的影响,并给出 AI 技术栈各层的漏洞分布,可作威胁建模参考。

9月25日周五
9月23日周三
9月18日周五
9月16日周三
9月13日周日
  1. CSET(Georgetown) ·

    CSET 专家解读 AI 恐慌主流化的一周

    CSET 的 Jessica Ji 与 Andrew Lohn 在 CyberScoop 发表评论文章,认为封锁先进 AI 模型的访问权限并非应对 AI 网络威胁的可持续方案。Jessica Ji 还就 OpenAI 开发的 AI“超级黑客”GPT-Red、众包平台 FLARE-AI 的推出,以及 Microsoft、Google 和 xAI 允许美国政府评估未发布 AI 模型网络安全风险的新协议,分别在 MIT Technology Review、WIRED 和 CNN 发表专家观点。

9月11日周五
9月8日周二
  1. The EU AI Act Newsletter ·

    欧盟 AI Act 通讯第110期:委员会首次动用执法权要求头部 AI 实验室说明安全实践

    欧盟委员会首次动用 AI Act 的新执法权,就网络安全、安全与版权合规向领先 AI 开发者索取信息,技术专员 Henna Virkkunen 称部分“最先进”模型的提供方已收到请求,但未点名,Anthropic、OpenAI、Google、Meta 和 Mistral 未立即回应 Euractiv 提问。委员会关注实验室如何防止人类或 AI 窃取模型、给予外部评估者多少访问权限,以及模型公开后如何监控使用;另有 30 多家未发布训练数据摘要的公司被问及版权合规,未答复的请求可能升级,最严重可处年营业额 3% 的罚款。

9月3日周四
8月21日周五
  1. Google DeepMind ·

    Google DeepMind 从 Atari 到 EVE Online:15 年游戏 AI 研究的下一步

    Google DeepMind 回顾 15 年游戏 AI 研究历程并宣布与游戏开发商合作,为新玩法体验做原型开发,其中最新一项是与《EVE Online》背后工作室 Fenris Creations 的研究合作。其早期工作始于用深度神经网络直接从像素玩 Atari 2600 游戏的 DQN,它学会了 49 款游戏且无需针对特定游戏做工程改造,相关成果登上 2015 年 Nature 论文。此后 AlphaGo、AlphaZero、MuZero、AlphaStar 相继攻克围棋、国际象棋、将棋及实时策略游戏,由 Gemini 驱动的新一代 SIMA 则转向理解和与人互动而非单纯取胜。

8月14日周五
  1. Google DeepMind ·

    Google DeepMind 发布 Gemini 3.7 Flash,面向编程与智能体工作流

    Google DeepMind 推出 Gemini 3.7 Flash,距 Gemini 3.6 Flash 仅三周,定位其最强编程与智能体主力模型。该模型在 FrontierCode 1.1 Main(43.6% vs 34.4%)和 DeepSWE v1.1(65.3% vs 49.0%)上升明显,WebDev Arena Elo 达 1588(对比 1538)。首发价为每百万输入 token 0.75 美元、输出 3.75 美元,并同步更新 Gemini Spark,针对 CBRN 与网络攻击场景升级 Frontier Safety 防护措施。

8月13日周四
  1. AI Frontiers ·

    欧盟 AI 法案第 50 条与加州 AI 透明度法案同日生效,内容溯源成为强制要求

    2026 年 8 月 2 日,欧盟 AI 法案第 50 条与加州 AI 透明度法案同日生效,要求生成式 AI 提供商和相机厂商为内容附加机器可读的溯源元数据。文章介绍内容溯源的三类元数据(来源、保管链、修改历史)以及业界趋同的 C2PA 标准,Anthropic、Google、OpenAI 均表示将采用 C2PA。加州法律还要求月活超百万的生成式 AI 提供商提供免费的溯源查询工具,2027 年起大型平台不得剥离合规溯源数据,2028 年起智能手机、相机、录音笔等设备须默认生成溯源记录。

8月12日周三
  1. Google DeepMind ·

    Google DeepMind 将手语到文本模型 SL2T 带入 Gboard 与 Live Transcribe

    Google DeepMind 推出手语到文本(SL2T)翻译模型,并首次将其落地消费级产品——Pixel 11 上的 Gboard 与 Live Transcribe,首发支持美国手语(ASL)转英语听写。该模型基于超 100,000 小时、覆盖 50 多种手语的数据训练,其中约四分之一为 ASL,联合训练使其优于单语模型,并在未见过的数据上取得 70 BLEURT 的零样本成绩。它把手语视为手势坐标序列而非摄像头画面,由端侧 MediaPipe Holistic 提取姿态地标后再送服务器翻译,跳过 gloss 中间标注,从而摆脱人工词汇表限制。

7月21日周二
  1. Google DeepMind ·

    Google DeepMind 推出 Gemini 3.6 Flash、3.5 Flash-Lite 及面向网络安全的 3.5 Flash Cyber

    Google DeepMind 发布三款新 Gemini 模型:主力模型 Gemini 3.6 Flash、最快最便宜的 3.5 Flash-Lite,以及与代码安全智能体 CodeMender 搭配的网络专用模型 3.5 Flash Cyber。据 Artificial Analysis Index,Gemini 3.6 Flash 比 3.5 Flash 减少 17% 的输出 token,价格降至 $1.50/1M 输入 token 和 $7.50/1M 输出 token,并在 DeepSWE(49% vs. 37%)等多个基准上升。

7月20日周一
  1. Import AI ·

    UK AISI 评测:开源权重模型与闭源前沿的网络能力差距正在缩小

    英国政府 AI Security Institute(AISI)首次公开分析开源权重模型在网络安全能力上落后闭源前沿模型的程度,结论是今年的差距已经缩小。在 70 项细分网络能力评测上,GLM-5.2 最接近早 4.3 个月发布的 Claude Opus 4.6,DeepSeek-V4-Pro 介于 Claude Opus 4.5 与 GPT-5 之间;而 2025 年大部分时间测得的差距为 6 到 10 个月。在名为 The Last Ones 的长周期网络靶场上差距更大,GLM-5.2 仅达到 Opus 4.5 的水平,DeepSeek V4-Pro 低于 Sonnet 4.5。

7月13日周一
  1. Google DeepMind ·

    Google DeepMind 联合印度 ATL 启动 Gemini 驱动的教育助手 ATL Saathi 试点

    Google DeepMind 面向印度 Atal Tinkering Labs(ATL)启动 ATL Saathi 实机试点,这是一款由 Gemini 提供底层能力的网页应用,为该计划的教育工作者提供全天候备课与培训助理。该工具基于 NotebookLM 整理并维护全部 ATL 课程材料,覆盖 12 个核心模块的小结、AI 信息图、视频概览与互动测验,并为其中 10 个模块提供进阶的项目生成界面,同时支持教师与学生双向的教学模式。其最新 Gemini 3.5 Flash 模型负责即时生成符合年级与课程标准的活动创意及分步组装说明、接线图和必要的安全注意事项,首批落地全国 100 所试点学校,初期支持 8 种语言。

  2. The EU AI Act Newsletter ·

    EU AI Act Newsletter #106:呼吁强制执行通用人工智能模型规则

    欧盟委员会正推动从 2026 年 8 月 2 日起执行《EU AI Act》中针对具有系统性风险的通用人工智能模型的规则,并收到一批研究者与公民社会组织的公开信施压。信中援引 Anthropic 的 Mythos 模型存在广泛报道的网络攻击能力和生物学及失控风险逼近临界阈值的证据,要求赋予 AI Office 的评估员网络开展外部评估的权力并提供足够资源和政治支持。同期理事会通过 Omnibus VII 简化方案,将高风险系统适用日期推迟至 2027 年 12 月 2 日(嵌入式产品为 2028 年 8 月 2 日)。

6月10日周三
  1. Google DeepMind · · 原文 62

    Google DeepMind 联合 Schmidt Sciences 等发起最高 1000 万美元多智能体安全研究资助

    Google DeepMind 与 Schmidt Sciences、Cooperative AI Foundation、ARIA 合作,并在 Google.org 支持下,发起最高 1000 万美元的多智能体 AI 安全技术研究资助征集。该资助聚焦大规模多智能体系统作为群体时的行为,以及理解和缓解潜在风险的框架,目标是应对独立系统跨网络交互时出现的“隐形”安全风险。征集列出四个优先方向:沙箱与测试床、智能体网络科学、智能体基础设施强化、以及大规模部署智能体的监督与控制。申请截止日期为 2026 年 8 月 8 日,获资助者预计于 2026 年秋季公布。

    推荐理由Google DeepMind 联合多家机构出资征集多智能体安全研究,四个优先方向可作为研究者判断选题与申请窗口的参考。

6月9日周二
  1. Google DeepMind ·

    Google DeepMind 发布 Gemini 3.5 Live Translate,实现 70+ 语言的近实时语音到语音翻译

    Google DeepMind 发布音频模型 Gemini 3.5 Live Translate,自动检测 70+ 种语言并生成保留说话人语调、节奏和音高的自然译文语音,且持续输出而非等待整句结束,仅落后说话人数秒。该模型通过 Gemini Live API 和 Google AI Studio 面向开发者公开预览,本月起在企业版 Google Meet 中私有预览,同时在全球 Google Translate App(Android/iOS)上面向所有用户推送。

5月18日周一
  1. Google DeepMind ·

    Google DeepMind 推出 Gemini Omni,首款模型 Gemini Omni Flash 可将任意输入转为视频

    Google DeepMind 推出新一代模型家族 Gemini Omni,首个成员 Gemini Omni Flash 今日面向全球所有 Google AI Plus、Pro 和 Ultra 订阅用户在 Gemini App 及 Google Flow 开放,可从图像、音频、视频和文本的组合输入生成高质量视频并对话式剪辑。 该模型基于 Gemini 的原生多模态与世界知识进行推理,具备更强的重力、动能、流体动力学直觉,能跨轮次精修环境、角度、风格且角色一致;同时可通过 Avatar 用自己的声音创建数字分身,全部产出带不可察觉的 SynthID 水印,目前仅支持语音参考作为音频输入,图像与音频输出模态将陆续加入。

5月17日周日
  1. Google DeepMind ·

    Google 扩大 SynthID 与水印溯源覆盖 Search、Gemini、Chrome 及 Cloud

    Google DeepMind 将 SynthID 合成内容检测扩展到 Search 和 Chrome,并新增基于 C2PA Content Credentials 的来源查验,此前该能力已在 Gemini App 中被调用 5000 万次。SynthID 已将超过 1000 亿张图片和视频以及 60000 年时长音频加水印,Pixel 8、9、10 将在未来数周内获得原生相机视频凭证。

5月16日周六
  1. Google DeepMind ·

    Google DeepMind 与新加坡达成国家 AI 合作,推进医疗、教育与科研

    Google DeepMind 启动新一轮国家 AI 合作伙伴计划,与新加坡政府及多家机构共建面向公共部门转型、商业增长与劳动力升级的项目。双方将前沿 AI 应用于医疗健康与生命科学——包括探索 AI 辅助临床医生协作模式、借助 AlphaFold 与 Google Earth 加速东南亚疫情防范研究,并向当地研究者培训基于 Co-Scientist 构建的 Hypothesis Generation 等智能体化科研工具。教育方面向中小学至初级学院全体教师提供 Gemini for Education 并配套培训,同时在新加坡落地亚太区"AI for the Planet"加速器扶持气候科技团队。

  2. Google DeepMind ·

    Google DeepMind 发布 Gemini 3.5,首发 3.5 Flash

    Google DeepMind 发布 Gemini 3.5 模型家族并率先开放 3.5 Flash,称其为迄今最强的智能体和编程模型,面向全球数十亿用户在 Gemini App、Search AI Mode、Antigravity、Gemini API 及企业版同步提供。该模型在 Terminal-Bench 2.1(76.2%)、GDPval-AA(1656 Elo)、MCP Atlas(83.6%)和多模态理解(CharXiv Reasoning 84.2%)上超过 Gemini 3.1 Pro,输出速度达其他前沿模型的 4 倍,成本常低于其一半。

5月11日周一
5月8日周五
  1. Obsolete(Garrison Lovely) ·

    Google DeepMind 英国员工投票成立工会,成首家工会化的前沿 AI 公司

    Google DeepMind 英国员工本周投票决定成立工会,这是前沿 AI 公司首次出现工会化。据《卫报》报道,员工的主要动因包括 Google 即将与美国国防部达成协议,以及公司此前向以色列军方提供 AI 工具访问权限。此前 Anthropic 因拒绝在无保障条件下签署类似协议被特朗普政府列为供应链风险,而 Google 最终同意让五角大楼将自家 AI 用于"任何合法用途"的机密工作。

4月30日周四
  1. Google DeepMind ·

    Google DeepMind 启动 AI co-clinician 医疗研究计划

    Google DeepMind 发起 AI co-clinician 研究计划,探索 AI 作为临床团队成员在医生监督下协助患者诊疗。该系统基于 Gemini 与 Project Astra 的多模态实时音视频能力模拟远程医疗通话,并在盲评中优于主流证据合成工具——98 个初级保健查询中有 97 个无严重错误,开放式用药问答表现超过现有前沿模型。

4月27日周一
  1. Google DeepMind ·

    Google DeepMind 宣布与大韩民国科学技术信息通信部达成合作

    Google DeepMind 与大韩民国科学技术信息通信部(MSIT)建立国家人工智能合作伙伴关系,并在首尔办公室设立 AI Campus,向韩国学术界和研究机构开放其最先进的 AI for Science 模型。首批合作对象包括首尔大学(SNU)、KAIST 及该部的三个 AI Bio Innovation Hub,涉及 AlphaEvolve、AlphaGenome、AlphaFold、AI co-scientist 和 WeatherNext,其中 AlphaFold 已在韩国拥有超过 85,000 名研究者用户。此外还将与韩国 AI 安全研究院(AISI)开展研究与最佳实践协作,并探讨面向韩国学生的实习机会。

4月16日周四
  1. Google DeepMind ·

    Gemini 3.1 Flash TTS 发布:支持音频标签的可控语音生成

    Google DeepMind 推出 Gemini 3.1 Flash TTS,一款支持音频标签(audio tags)的文本转语音模型,可通过自然语言指令控制语音风格、语速与表达方式。该模型在 Artificial Analysis TTS 排行榜上取得 1,211 Elo 分数,支持 70 多种语言和原生多说话人对话,并已通过 Gemini API、Google AI Studio、Vertex AI 和 Workspace 的 Google Vids 逐步开放预览。所有生成音频均嵌入 SynthID 水印以支持 AI 内容检测。

4月1日周三
3月13日周五
  1. AI Safety Newsletter (CAIS) ·

    AI 安全通讯#69:战争部认定 Anthropic 构成国家安全供应链风险并取消合同

    美国战争部于周四(3 月 5 日)宣布将 Anthropic 认定为"供应链风险",意味着其产品不能被该部门或在任何国防合约中使用,此前双方围绕自主武器和美国民众监控问题发生争执,Anthropic 拒绝了战争部的请求。这场争端始于合同谈判:特朗普总统曾表示美国政府会因该公司对其 AI 用途的限制而取消与 Anthropic 的合同,五角大楼希望 Claude 可用于"任何合法用途",而 Anthropic 坚持两项限制——完全自主武器与美国国内大规模监控。

3月11日周三
2月20日周五
  1. UK AISI(GOV.UK 公告) ·

    OpenAI 与 Microsoft 加入英国 AISI 国际对齐项目,资助总额超 2700 万英镑

    英国 AI Security Institute(AISI)宣布 OpenAI 与 Microsoft 加入其 Alignment Project,OpenAI 承诺追加 560 万英镑,加上 Microsoft 等方支持,该基金可用资金超过 2700 万英镑。该项目由英国副首相 David Lammy 和 AI 大臣 Kanishka Narayan 在印度 AI Impact Summit 闭幕时公布,首批资助来自 8 个国家的 60 个项目,第二轮申请将于今年夏季开放。

  2. Google Security Blog ·

    Google Play 与 Android 应用生态 2025 年安全防护成效

    Google 公布 2025 年 Google Play 与 Android 生态安全成果:拦截超过 175 万个违规应用上架,封禁逾 8 万名恶意开发者账号,并阻止超 25.5 万个应用获取过多敏感用户数据权限。其将最新生成式 AI 模型接入审核流程辅助人工团队更快识别复杂恶意模式,同时借助检测模型屏蔽了 1.6 亿条垃圾评分与评论,并为遭差评轰炸的应用挽回平均 0.5 星降幅。Android 内置的 Google Play Protect 每日扫描超 3500 亿次应用安装,其实时扫描从 Google Play 之外识别出逾 2700 万个新的恶意应用。

12月11日周四
9月25日周四
  1. Google Security Blog ·

    Google 联合 Airbus 在 DEF CON 33 举办 GenSec CTF,加速 AI 网络安全应用

    Google 隐私、安全与安保团队联合 Airbus 在 DEF CON 33 举办了聚焦人机协作的 GenSec Capture the Flag(CTF)。近 500 名参与者完成了入门挑战,其中 23% 的人首次将 AI 用于网络安全工作流,85% 的参与者认为该活动有助于了解 AI 在安全工作流中的应用方式。活动中还提供实验性的网络安全 AI——Sec-Gemini 作为可选助手,77% 的受访者表示它对自己解决挑战“很有帮助”或“极有帮助”。

9月22日周一