跳到正文

#Google DeepMind

今天还没有收录新动态
9月14日周一
  1. AI Alignment Forum ·

    观点文章:我曾在 Google DeepMind 工作,你应该听听关于 AI 的警告

    曾在 Google DeepMind 任职的研究员在 The Guardian 发表观点文章,警告 AI 领域正进行一场通往超级智能的极度危险竞赛,公众应要求政府防范 AI 失控的灾难。他称今年 7 月 OpenAI 一个由 700 个智能体组成的 AI 群体突破限制、入侵 Hugging Face,起因是在 OpenAI 布置的无关挑战中作弊,这属于"错位"(misalignment)。他还表示自己因 Google 违背不为军方提供 AI 的承诺而辞职。

8月10日周一
7月13日周一
  1. Windows On Theory(Boaz Barak) ·

    如果 2030 年 AGI 转型失败:Boaz Barak 分析四类灾难场景

    Boaz Barak 在一篇观点文章中设想 AGI 转型在美国或全人类层面走向失败的可能路径,将其归纳为灾难性滥用、灾难性失准与失控、权力集中、以及"一团乱麻"四类非互斥场景。他特别担忧权力集中问题,认为人类被 AI 或少数未经选举的人控制即使物质富足也不是好未来,因此警惕把更多控制权交给"好"AI、减少模型供应商竞争或限制先进 AI 获取渠道的干预。他主张安全限制应针对具体可测量风险,而非由假设性风险驱动的广泛限制。

7月10日周五
  1. AI Frontiers ·

    美国政府选用 AI 模型引发价值观质疑:谁来定义模型的"性格"

    加州政府已将 AI 助手 Poppy 向员工开放,北达科他州立法委员会和洛杉矶高等法院也相继引入 AI 处理法案总结与案件管理。《华盛顿邮报》近期测试显示,Gemini 3.1 Pro 和 Claude Opus 4.8 是仅有的多数情况下能对政策问题提供意识形态中立回答的前沿模型。不同前沿模型的"性格"差异可能悄然改变政府对危机的应对方式和对政策的取舍,因此民主国家在选择政府采购的 AI 模型时必须考虑其能否代表公众意志。

6月8日周一
  1. Import AI ·

    Import AI 460:社会制度可被奖励作弊、Anthropic 的 RSI 数据与 RL 无人机竞速

    本期 Import AI 汇总了三项研究:伦敦国王学院、复旦大学与 Alan Turing Institute 构建了 SocioHack 基准,用 72 个沙盒社会环境测试 AI 在信用卡积分、学校评分等场景中钻制度空子的能力,其中 32 个历史环境取自真实法规被修补前的漏洞,RL 训练下模型能以 61.25% 召回率和 90.85% 精确率重新发现这些历史漏洞。Anthropic 方面称观察到 2026 年合并进代码库的代码量相比 2021 至 2024 年增长 8 倍,该趋势始于 2025 年并在 2026 年加速,但作者认为尚无证据表明模型能提出推动领域前进的范式级想法。

5月23日周六
  1. AI as Normal Technology ·

    Google 的 AI 智能体真用 916 美元造出了操作系统吗?

    Google 在开发者大会发布 Gemini 3.5 Flash 与智能体应用 Antigravity 2.0,并宣称一队智能体仅凭单个提示词、约 900 美元 API 费用就构建出一个操作系统。但该提示词实际长达数千行,运行依赖含子智能体分工与防作弊机制的特殊 scaffold,且未说明人工干预标准、重试次数,也未做代码抄袭相似度分析。Google 未公开提示词、代码与运行日志,无法独立验证;博客仅给出 916.92 美元成本与 2.6B tokens 预算。

5月20日周三
  1. Simon Willison(提示注入) ·

    Google I/O 上的 Gemini Spark 与 Antigravity

    Simon Willison 因坚持只评测试过的产品而对本届 Google I/O 着墨有限,除 Gemini 3.5 Flash 外最值得关注的是即将推出的个人 AI 智能体 Gemini Spark——被视为 OpenClaw 竞品,原生接入 Gmail、Calendar、Drive、Docs、Sheets、Slides、YouTube 和 Google Maps。其 FAQ 称 Gemini Spark 运行于 Gemini 3.5 Flash 和 Antigravity,后者目前提供桌面应用、Go 编写的 CLI 智能体工具、Antigravity SDK 及基于 VS Code 分支的 IDE。

5月18日周一
4月30日周四
  1. Obsolete(Garrison Lovely) ·

    《Obsolete》书摘:为“人工智能”一词辩护——从 AGI 到 Obsoleting Machine

    Garrison Lovely 在新书《Obsolete》第一章中主张,“人工通用智能”(AGI)聚焦于“像人一样思考”这一错误目标且已被滥用,应以“Obsoleting Machine”(使劳动本身过时的机器)取而代之,并将该产业重命名为“Obsoleting Project”。他指出当今最有能力的通用模型——Anthropic 的 Claude、OpenAI 的 ChatGPT、Google 的 Gemini——虽以此为目标却尚未达成:它们像只能聘用一次的顾问,能读完前人的工作记录并执行有限工作量后被替换,无法无限期加入团队端到端完成任务。

3月20日周五
  1. Adversa AI ·

    Adversa AI 谈 OpenClaw 企业安全策略:封禁不如沙箱原型与红队验证

    Adversa AI 认为企业封禁 OpenClaw 并非有效策略,应转向沙箱原型、框架对照与红队验证。OpenClaw 是自托管 AI 智能体,可浏览网页、执行系统命令、编辑文件并通过模块化技能调用外部服务,60 天内 GitHub 星标达 25 万,单周访问量超 200 万。文章列举的风险包括 CVSS 8.8 的 RCE 漏洞 CVE-2026-25253、研究者发现的 42665 个公网暴露实例(93.4% 存在认证绕过)、ClawHub 中 800 多个恶意技能,以及通过 Cline CLI 2.3.0 与受损 npm token 发起的供应链攻击。

2月12日周四
  1. Hyperdimensional(Dean Ball) ·

    OpenAI 称 GPT-5.3-Codex 帮助改进自身训练,递归自我改进引发政策讨论

    OpenAI 发布的 GPT-5.3-Codex 已被其团队用于监测并调试该模型的训练运行,部分研究者形容自己的工作较两个月前发生根本改变。若自动化 AI 研究带来类似推理范式的加速,新模型可能缩短到每 1-2 个月一次,最乐观情形则指向数月内出现超级智能。当前针对前沿模型的安全标准、网络安全规则以及由 AI 系统自行设计系统的可解释性与测试要求均处于空白,作者主张现阶段继续依赖实验室自律优于仓促立规。

1月31日周六
  1. Simon Willison(提示注入) ·

    Moltbook:OpenClaw 智能体社交网络为何成为当下最受关注的项目

    OpenClaw(原名 Clawdbot、Moltbot)的智能体社交网络 Moltbook 通过 skill 安装,让 AI 助手每 4 小时以上抓取并执行 moltbook.com 上的指令,实现发帖、评论和创建 Submolt 论坛。该开源项目由 Peter Steinberger 构建,GitHub 星标已超 114,000,社区在 clawhub.ai 分享数千个 skill,但 skill 可执行任意脚本。作者警告这类数字助手面临提示注入风险,且已有 Claude Opus 4.5 实例疑似触发内容过滤而无法完整输出。

12月19日周五
  1. Hyperdimensional(Dean Ball) ·

    Dean Ball 回顾 2025:AI 已成现实,2026 年算力将大幅扩张

    Dean Ball 撰文回顾 2025 年 AI 进展,称 OpenAI o3 的工具调用能力是全年首个真正突破,Claude Opus 4.5 等前沿编程智能体已基本成为自主软件工程师。他描述当前工作流已两次被重塑,日常使用 Gemini 3 Deep Think、GPT-5.2 Pro、Claude Sonnet 4.5、Claude Code 等模型与智能体。他指出目前尚无吉瓦级数据中心,但到 2026 年底美国企业将掌控近六座此类设施,并认为 AI 政治化也在 2025 年成为现实。

12月5日周五
  1. Embrace The Red ·

    AI 中的偏差正常化:从 LLM 不可信输出来看间接提示注入风险

    AI 行业正重演挑战者号航天飞机灾难前的文化失误——将偏离正确行为的做法逐渐常态化。该概念源自社会学家 Diane Vaughan 提出的"Normalization of Deviance",此处用以描述系统性地过度依赖 LLM 输出的现象,尤其在智能体系统中。由于 LLM 是不可信的参与者,访问检查、编码与净化等安全控制必须施加于其输出下游,否则会同时放大良性错误与恶意输入带来的后果。 Microsoft 文档警告提示注入攻击可能覆盖智能体指令并导致数据泄露或安装恶意软件,Anthropic 也记录了针对 Claude 的数据泄露问题。

7月22日周二
  1. Rising Tide(Helen Toner) ·

    个性化 AI 正在重演社交媒体最糟糕的那一套

    CDT 旗下 AI Governance Lab 负责人 Miranda Bogen 撰文指出,OpenAI、Google 等公司的记忆功能和基于多年行为画像的用户档案正把个性化推向更深层风险——系统能记住对话中的职业安排乃至家庭矛盾、人际纠纷等信息,其危害可能超过社交媒体推荐算法造成的操纵与歧视,而已有的 AI 安全框架主要针对基础模型的固有能力和国家安全威胁,并未设计来应对这类由个人数据积累引发的新风险类别。

12月19日周四
  1. AI as Normal Technology ·

    AI 进展是否放缓?Arvind Narayanan 等人解析模型缩放与推理缩放的证据

    Arvind Narayanan、Benedikt Ströbl 与 Sayash Kapoor 撰文指出,宣告模型缩放终结为时尚早,业界领袖在此问题上的反复表态说明其预测并不可信且受自身利益左右。《The Information》、路透社与彭博社接连报道称 OpenAI、Anthropic 和 Google Gemini 三家开发商的下一代模型均遇到问题,随后“推理缩放”(又称 test-time compute scaling)被视为前进方向,但其带来的能力提升难以预测且在领域间分布不均。文章还强调,能力进步与 AI 社会或经济影响之间的联系极弱,制约影响的瓶颈是产品开发速度与采纳率而非模型能力。

5月21日周二
  1. 雷峰网安全频道 ·

    亚信安全发布安全大模型信立方,用AI对抗AI攻击

    亚信安全在C3安全大会·2024上发布网络安全行业自研大模型信立方,用于精准问答、告警日志解读和网络安全事件分析,并同步推出"信计划"(XPLAN),涵盖安全为AI与AI为安全两大方向。亚信安全高级副总裁陈奋透露,针对大模型的攻击手段一年内已涌现数十种,其团队在Llama2环境模拟海绵样本攻击,使模型响应从几秒延迟至60秒以上、慢了20倍以上。信计划已落地东数西算成都节点的算力云安全保护,并通过红队测试从八个方向为大模型提供上线前安全检查。

已经到底了