教皇利奥十四世首部通谕《Magnifica Humanitas》聚焦 AI
梵蒂冈宣布教皇利奥十四世将于 2026 年 5 月 25 日发布首部聚焦 AI 的通谕《Magnifica Humanitas》(壮丽的人类)。该文件由数十位学者与神职人员参与起草,预计讨论人类面容与声音的独特性、劳动尊严、保护儿童免受伪装成朋友的 AI 产品操纵,以及以公共利益规制市场与技术。
梵蒂冈宣布教皇利奥十四世将于 2026 年 5 月 25 日发布首部聚焦 AI 的通谕《Magnifica Humanitas》(壮丽的人类)。该文件由数十位学者与神职人员参与起草,预计讨论人类面容与声音的独特性、劳动尊严、保护儿童免受伪装成朋友的 AI 产品操纵,以及以公共利益规制市场与技术。
欧盟 AI Act 通讯第 102 期汇总了欧盟 AI 立法与治理的最新进展。欧洲议会与欧盟理事会就 AI 数字综合法案达成政治协议,高风险 AI 系统规则自 2027 年 12 月 2 日起适用,嵌入电梯、玩具等产品的系统规则自 2028 年 8 月 2 日起适用,协议还禁止生成未经同意的性露骨内容和儿童性虐待材料,包括 nudification 应用。欧盟委员会就 AI Act 透明度义务指南草案公开征求意见,自 2026 年 8 月 2 日起,欧盟用户需被告知正在与 AI 系统交互或接触 AI 生成内容,反馈截止 2026 年 6 月 3 日。
Google DeepMind 推出新一代模型家族 Gemini Omni,首个成员 Gemini Omni Flash 今日面向全球所有 Google AI Plus、Pro 和 Ultra 订阅用户在 Gemini App 及 Google Flow 开放,可从图像、音频、视频和文本的组合输入生成高质量视频并对话式剪辑。 该模型基于 Gemini 的原生多模态与世界知识进行推理,具备更强的重力、动能、流体动力学直觉,能跨轮次精修环境、角度、风格且角色一致;同时可通过 Avatar 用自己的声音创建数字分身,全部产出带不可察觉的 SynthID 水印,目前仅支持语音参考作为音频输入,图像与音频输出模态将陆续加入。
Google DeepMind 将 SynthID 合成内容检测扩展到 Search 和 Chrome,并新增基于 C2PA Content Credentials 的来源查验,此前该能力已在 Gemini App 中被调用 5000 万次。SynthID 已将超过 1000 亿张图片和视频以及 60000 年时长音频加水印,Pixel 8、9、10 将在未来数周内获得原生相机视频凭证。
Google DeepMind 启动新一轮国家 AI 合作伙伴计划,与新加坡政府及多家机构共建面向公共部门转型、商业增长与劳动力升级的项目。双方将前沿 AI 应用于医疗健康与生命科学——包括探索 AI 辅助临床医生协作模式、借助 AlphaFold 与 Google Earth 加速东南亚疫情防范研究,并向当地研究者培训基于 Co-Scientist 构建的 Hypothesis Generation 等智能体化科研工具。教育方面向中小学至初级学院全体教师提供 Gemini for Education 并配套培训,同时在新加坡落地亚太区"AI for the Planet"加速器扶持气候科技团队。
Google DeepMind 发布 Gemini 3.5 模型家族并率先开放 3.5 Flash,称其为迄今最强的智能体和编程模型,面向全球数十亿用户在 Gemini App、Search AI Mode、Antigravity、Gemini API 及企业版同步提供。该模型在 Terminal-Bench 2.1(76.2%)、GDPval-AA(1656 Elo)、MCP Atlas(83.6%)和多模态理解(CharXiv Reasoning 84.2%)上超过 Gemini 3.1 Pro,输出速度达其他前沿模型的 4 倍,成本常低于其一半。
ISO 于 2026 年 1 月生效三项商业综合责任险生成式 AI 除外条款(CG 40 47、CG 40 48、CG 35 08),多家主要承保商数周内跟进采用。Berkley Insurance 对 D&O、E&O 及信托责任险提出绝对 AI 除外,Berkshire Hathaway、Chubb、Travelers 获监管批准将 AI 相关损害从企业保单中剔除;网络险则多维持 AI 驱动攻击的承保。Capgemini 报告显示 42% 保险公司完全不追踪 AI 指标,McKinsey 调查中 72% 企业已有至少一个 AI 用例投产。
Import AI 456 期聚焦三项议题:法律与 AI 研究所提出“激进可选性”(Radical Optionality)监管理念,主张政府当下投入建设信息披露、举报人保护、政企间情报共享、灵活规则定义及评估能力等制度工具,同时避免过早过度监管,并建议加大对英国 AISI、美国 CAISI 的资金投入。该理念还回应了民主合法性、权力集中和政府滥用等质疑,且不建议大幅扩张《国防生产法案》类紧急授权。此外本期提及 RSI 与经济增长的关系,以及 Juergen Schmidhuber 提出的神经计算机(Neural Computer)。
Google bugSWAT 首尔站活动于 2026 年 4 月举行,Google Bug Hunters 发布博客,梳理 bugSWAT 系列活动普遍的价值所在,并聚焦最新一期首尔站。
Google DeepMind 英国员工本周投票决定成立工会,这是前沿 AI 公司首次出现工会化。据《卫报》报道,员工的主要动因包括 Google 即将与美国国防部达成协议,以及公司此前向以色列军方提供 AI 工具访问权限。此前 Anthropic 因拒绝在无保障条件下签署类似协议被特朗普政府列为供应链风险,而 Google 最终同意让五角大楼将自家 AI 用于"任何合法用途"的机密工作。
针对纽约时报报道白宫正考虑再发行政令、设立可监督强大 AI 系统部署前测试的“AI 工作组”,Future of Life Institute 总裁兼 CEO Anthony Aguirre 发表声明称这一设想令人鼓舞。他认为先进 AI 系统已不只是商业产品,其风险也不再是假设,不应由单一公司自行决定是否发布可能危害国家安全或经济的产品。他主张由公正专家主导的全政府工作组来确定发布前评估与护栏要求,并称航空、制药、核电等领域都采用类似监管方式。声明还提到白宫在 AI 网络安全能力威胁金融系统后曾表态支持“kill switch”,以及参议员 Blackburn 提出的联邦 AI 立法提案获得跨意识形态支持。
欧盟立法者未能就推迟《人工智能法案》高风险条款达成协议,机械与医疗器械合规路径争议导致谈判无果且未定重启日期。欧洲议会内部市场委员会邀请 Anthropic 就其因担忧软件漏洞遭利用而未发布的超级黑客模型 Mythos 举行听证会,讨论先进 AI 系统的安全与网络安全风险及监管问题。Anthropic 还向欧委会通报了该模型的网络能力与技术风险细节,并签署了针对最复杂先进模型的欧盟最佳实践准则。
Google DeepMind 发起 AI co-clinician 研究计划,探索 AI 作为临床团队成员在医生监督下协助患者诊疗。该系统基于 Gemini 与 Project Astra 的多模态实时音视频能力模拟远程医疗通话,并在盲评中优于主流证据合成工具——98 个初级保健查询中有 97 个无严重错误,开放式用药问答表现超过现有前沿模型。
Chrome 与 Android 漏洞奖励计划(VRP)宣布调整奖励金额与奖金,改动立即生效。此次调整针对当前对安全最有价值的报告类型与漏洞类别,并定位为面向 AI 时代的演进;原文未披露具体金额或类别细节。
Google DeepMind 与大韩民国科学技术信息通信部(MSIT)建立国家人工智能合作伙伴关系,并在首尔办公室设立 AI Campus,向韩国学术界和研究机构开放其最先进的 AI for Science 模型。首批合作对象包括首尔大学(SNU)、KAIST 及该部的三个 AI Bio Innovation Hub,涉及 AlphaEvolve、AlphaGenome、AlphaFold、AI co-scientist 和 WeatherNext,其中 AlphaFold 已在韩国拥有超过 85,000 名研究者用户。此外还将与韩国 AI 安全研究院(AISI)开展研究与最佳实践协作,并探讨面向韩国学生的实习机会。
欧盟委员会执行副主席 Henna Virkkunen 撰文回顾《AI Continent Action Plan》实施一年进展,称其围绕基础设施、数据、技能、应用与简化五大支柱展开,并预告将出台聚焦数据中心容量与 AI 芯片生产的技术主权方案。Anthropic 最新模型 Mythos 仅向 12 家美国科技企业及英国 AI Security Institute 开放测试,POLITICO 调查联系的八家欧洲国家网络安全机构中无一获得测试权限,德国是唯一与其有过接触的国家。
Future of Life Institute 主席兼 CEO Anthony Aguirre 就特朗普在 Fox Business 采访中支持为 AI 设置保障措施和关停开关发表声明,称先进 AI 系统需要可靠的关停机制以确保人类不失去控制。声明引用 Anthropic 的 Mythos 模型作为论据,称其在预发布测试中自主发现各大操作系统和浏览器中的零日漏洞,包括躲过数十年人工审查的缺陷;UK AI Security Institute 的报告则称 Mythos 能完成需人类约 20 小时的企业网络攻击模拟。
Google DeepMind 推出 Gemini 3.1 Flash TTS,一款支持音频标签(audio tags)的文本转语音模型,可通过自然语言指令控制语音风格、语速与表达方式。该模型在 Artificial Analysis TTS 排行榜上取得 1,211 Elo 分数,支持 70 多种语言和原生多说话人对话,并已通过 Gemini API、Google AI Studio、Vertex AI 和 Workspace 的 Google Vids 逐步开放预览。所有生成音频均嵌入 SynthID 水印以支持 AI 内容检测。
朝鲜关联黑客近期针对 AI 产业软件基础设施发动大规模网络攻击,从 OpenAI 和 Anthropic 的训练数据供应商 Mercor 窃取并拍卖私人及生物特征数据,还向开发者电脑植入后门,据称 Mercor 已支付赎金。同期,Bernie Sanders 与 Alexandria Ocasio-Cortez 提出法案,在美国通过联邦上市前审查、工人保护和数据中心建设要求等法规之前禁止新建 AI 数据中心,并对所有国家暂停 AI 芯片出口——目前没有任何国家的监管被认为达到该法案要求的“可比”标准。
Adversa AI 因持续对抗测试 AI 系统的平台获得 2026 人工智能卓越奖安全与对齐类别奖。该平台在部署前识别提示注入、模型操纵、智能体不安全行为与意外操作,评估映射 OWASP AIVSS、NIST 与 CSA 标准。该公司主导 CoSAI Agentic AI Security 工作组,并创建了开源 AI 智能体安全框架 SecureClaw。
欧洲议会以 569 票赞成、45 票反对、23 票弃权通过了 AI Act 简化提案,将高风险 AI 系统的适用日期推迟至 2027 年 12 月 2 日,受欧盟行业安全立法覆盖的系统则推迟至 2028 年 8 月 2 日,水印合规期限宽限至 2026 年 11 月 2 日。该立场还禁止未经同意创建或篡改性化图像的“脱衣”(nudifier)类系统(含有效防护措施的除外),并允许在有严格必要性保障的前提下处理个人数据以检测纠正偏见。接下来将与欧盟理事会展开谈判确定法律最终形式。
OpenAI 开放 Safety Fellowship 申请,面向外部研究者、工程师和从业者,资助高级 AI 系统安全与对齐研究,项目期为 2026 年 9 月 14 日至 2027 年 2 月 5 日。
Google 漏洞奖励计划(VRP)2025 年迎来 15 周年,向全球 700 多名研究者发放超 1700 万美元奖金,创历史新高,较 2024 年增长逾 40%。
Adversa AI 在 RSA Conference 2026 的 Global InfoSec Awards 上获评"最具创新 Agentic AI 安全",其 Agentic AI 安全平台可持续对 GenAI 应用、自主 AI 智能体和 MCP 架构进行压力测试,在部署前发现提示注入、目标劫持和工具滥用等漏洞。该平台评估结果对齐 OWASP AI Vulnerability Scoring System,并已扩展至金融服务、保险和政府的企业级环境。Gartner 预计到 2028 年超过 33% 的企业应用将包含 agentic AI,高于 2024 年的不足 1%。
Future of Life Institute 发起倡议,呼吁在获得广泛科学共识证明超级智能可安全可控、且取得公众支持之前,禁止其开发,签署者包括 Geoffrey Hinton、Stuart Russell、Yoshua Bengio 及多位诺奖得主、宗教领袖与演艺人士。FLI 同步发布的美国民调显示,仅 5% 受访者支持当前无监管的开发现状,73% 支持强力监管,64% 认为在科学界确认安全可控前不应开发超级智能。
欧洲议会议员以 101 票赞成、9 票反对、8 票弃权通过联合立场,主张推迟部分高风险 AI 系统规则的适用,并提议将固定生效日期定为高风险系统 2027 年 12 月 2 日、受欧盟部门安全立法覆盖的系统 2028 年 8 月 2 日,水印合规延长则缩短至 2026 年 11 月 2 日。欧盟理事会随后也达成一致立场,基本维持欧委会提案主旨,同样引入上述两个固定适用日期,并将 AI 监管沙盒的建设推迟至 2027 年 12 月 2 日。 两方均禁止未经同意生成亲密内容的 AI 行为及儿童性虐待材料,其中议会还新增了对无有效保障措施的“脱衣”(nudifier)系统的禁令。
Future of Life Institute 美国政策负责人 Michael Kleinman 就白宫周五发布的 AI 立法建议发表声明,批评其中仍呼吁国会阻止各州自行监管 AI。材料称,多项民调显示联邦优先权不受欢迎,参议院去年夏天以 99 比 1 否决了该条款,国会领导层 11 月试图将其塞入 NDAA 也未成功;白宫 12 月发布行政令试图绕过国会推进,但因缺乏国会支持效力有限,此次立法建议又把球踢回国会,要求将暂停监管写入法律。材料还称白宫在新闻稿中完全未提及该条款,并指责 David Sacks 参与扼杀犹他州等地的儿童安全立法。Kleinman 表示,任何包含联邦优先权却缺乏实质护栏的立法框架都不是在认真保护美国人。
OWASP GenAI Security Project 发布了面向 LLM 与智能体安全的更新版全景指南及配套资源,并公布其在 RSA 2026 期间的一周活动安排。该项目的《Q2 2026 Updated Landscape Guide for LLM and Agentic Security》新增供应商与工具体系文档以及智能体红队测试分类体系,覆盖开发、测试、部署与治理全生命周期。同期发布的还有自主与智能体 AI 系统风险清单、Secure MCP Server Development 指南、SBOM/AIBOM Generator 开源工具以及 AI 红队服务商评估标准。
美国战争部于周四(3 月 5 日)宣布将 Anthropic 认定为"供应链风险",意味着其产品不能被该部门或在任何国防合约中使用,此前双方围绕自主武器和美国民众监控问题发生争执,Anthropic 拒绝了战争部的请求。这场争端始于合同谈判:特朗普总统曾表示美国政府会因该公司对其 AI 用途的限制而取消与 Anthropic 的合同,五角大楼希望 Claude 可用于"任何合法用途",而 Anthropic 坚持两项限制——完全自主武器与美国国内大规模监控。
Google 在 Google Bug Hunters 博客发布 2025 年回顾,梳理旗下各项 VRP(漏洞奖励计划)在这一年的亮点。内容覆盖 Google 的多个漏洞奖励计划,原文未披露具体奖金金额或漏洞数量。
佛罗里达州州长 Ron DeSantis 指示州政府机构与 Future of Life Institute(FLI)合作,推出两项保护儿童与社区免受 AI 聊天机器人和陪伴应用心理社会危害的举措,这是州长办公室与 AI 安全组织的首个州级正式合作。合作内容包括面向持证心理健康专业人员的危机咨询师培训课程,以及允许家长、教师等公众向州政府直接举报 AI 产品危害的 AI 危害报告表。报告将用于指导州和联邦层面的立法与监管行动。
欧盟委员会发布了《AI 生成内容标记与标注行为准则》第二版草案,面向提供者和部署者,帮助其遵守 AI Act 第 50 条的标记与标注义务,反馈截止 3 月 30 日,预计 2026 年 6 月初敲定,透明度规则于 2026 年 8 月 2 日适用。 该草案吸纳了 2026 年 1 月以来通过问卷、会议和工作坊收集的数百家利益相关方意见及成员国与欧洲议会代表的贡献,并做了精简以减少合规负担,同时推动开放标准和统一的欧盟标识图标。准则分两部分:第一部分针对生成式 AI 系统提供者的内容标记与检测,第二部分针对部署者对深度伪造和公共利益文本的标注,采取更灵活务实的做法。
美国多个 faith 团体、工会、进步派组织与 AI 学者在新奥尔良联合发布 33 条“亲人类”AI 原则,分为“人类掌权”“避免权力集中”“保护人类体验”“人类能动性与自由”“AI 公司的责任与问责”五大主题,具体包括禁止 AI 人格化、强制“bot-or-not”标注、对造成特定严重 AI 损害的高管追究刑责。民调显示 83% 受访者支持“人类必须保持对 AI 的控制”,77% 支持禁止企业通过制造情感依恋的 AI 互动剥削儿童。
英国 AI Security Institute(AISI)宣布 OpenAI 与 Microsoft 加入其 Alignment Project,OpenAI 承诺追加 560 万英镑,加上 Microsoft 等方支持,该基金可用资金超过 2700 万英镑。该项目由英国副首相 David Lammy 和 AI 大臣 Kanishka Narayan 在印度 AI Impact Summit 闭幕时公布,首批资助来自 8 个国家的 60 个项目,第二轮申请将于今年夏季开放。
Google 公布 2025 年 Google Play 与 Android 生态安全成果:拦截超过 175 万个违规应用上架,封禁逾 8 万名恶意开发者账号,并阻止超 25.5 万个应用获取过多敏感用户数据权限。其将最新生成式 AI 模型接入审核流程辅助人工团队更快识别复杂恶意模式,同时借助检测模型屏蔽了 1.6 亿条垃圾评分与评论,并为遭差评轰炸的应用挽回平均 0.5 星降幅。Android 内置的 Google Play Protect 每日扫描超 3500 亿次应用安装,其实时扫描从 Google Play 之外识别出逾 2700 万个新的恶意应用。
欧盟理事会第二版妥协文本拟赋予 AI Office 更大检查权,允许其查阅企业账目与相关数据、复制材料并询问员工,同时国家监管机构可代为调查。该提案将 AI 市场检查权从各国集中到 AI Office,覆盖企业在自有通用目的 AI 模型之上构建的系统,甚至可能延伸至同一"undertaking"内的关联结构。Access Now 牵头的联署信则反对删除高风险 AI 系统第 49(2) 条的透明度保障条款,警告此举会削弱执法可行性并为健康、安全和基本权利带来风险。
Frontier Model Forum 发布信息共享进展通报,称其成员企业已成功共享漏洞、威胁与关注能力三类信息,涵盖越狱、对抗输入、数据投毒、CBRN 与高级网络攻击等方向。该机制去年 3 月以自愿协议形式启动,配套法律与技术基础设施用于保密交换并兼顾知识产权与反垄断合规。FMF 表示下一步将把自愿信息共享试点扩展到其他前沿 AI 公司,并建立面向产业界与政府的更多可信渠道。
Future of Life Institute 启动名为 Protect What's Human 的全国性 AI 监管活动,最高支出 800 万美元,首站覆盖 Iowa、Kentucky、Maine、Michigan、North Carolina 五州。活动意在把 AI 监管讨论带出华盛顿与硅谷,聚焦已感受到 AI 影响的普通美国人,并推动各州 AI 安全立法。FLI 称在 D.C. 与湾区之外 AI 监管获两党支持,而 2026 年选举议题中普通美国人的视角缺失。
欧盟委员会未能按期于 2026 年 2 月 2 日发布高风险 AI 系统分类指南草案,将推迟至本月晚些时候公布,理由是需整合过去一个月收到的大量反馈并走完内部程序。POLITICO 报道称,欧盟科技负责人 Henna Virkkunen 在达沃斯为《人工智能法案》辩护,援引斯坦福大学研究指出美国存在超过 200 项州级 AI 监管规定,以此反驳美方分散立法更利于创新的观点。《经济学人》则提到欧洲企业历来采纳新技术缓慢,且欧盟 AI Act 可能因合规负担拖慢生成式 AI 的应用普及。
英国政府发起安全 AI 计算系统开发的信息征集,向 AI 行业、网络安全行业及更广泛的产业界与学术界收集观点,用以了解当前的安全挑战、现有能力、现实约束以及值得推进的研究与技术试点方向。该公告于 2026 年 1 月 29 日发布,旨在帮助政府在确保安全的条件下开发和部署最先进的 AI 系统。