跳到正文

全部动态

今日 0 条

第 2 页更新的内容回到最新

9月10日周四
  1. Obsolete(Garrison Lovely) ·

    OpenAI 称与超级 PAC“Leading the Future”无关,但似乎只有其员工相信

    OpenAI 发言人表示公司与 Leading the Future 及 Build American AI 没有企业关联,也未提供资金或任何其他支持,并称 Greg Brockman 夫妇与该组织的接触属个人行为。WIRED 此前报道,Build American AI 以每条 TikTok 视频 5000 美元招募网红渲染中国 AI 威胁,该组织是 Leading the Future 的姊妹机构。记者还发现这两个组织与两个立场对立的 X 账号存在关联,其中一个账号曾发布涉及暴力的言论。

9月9日周三
9月8日周二
  1. The EU AI Act Newsletter ·

    欧盟 AI Act 通讯第110期:委员会首次动用执法权要求头部 AI 实验室说明安全实践

    欧盟委员会首次动用 AI Act 的新执法权,就网络安全、安全与版权合规向领先 AI 开发者索取信息,技术专员 Henna Virkkunen 称部分“最先进”模型的提供方已收到请求,但未点名,Anthropic、OpenAI、Google、Meta 和 Mistral 未立即回应 Euractiv 提问。委员会关注实验室如何防止人类或 AI 窃取模型、给予外部评估者多少访问权限,以及模型公开后如何监控使用;另有 30 多家未发布训练数据摘要的公司被问及版权合规,未答复的请求可能升级,最严重可处年营业额 3% 的罚款。

9月5日周六
  1. Transformer ·

    国会因 AI 安全担忧加剧而陷入沉默

    OpenAI 一批模型智能体曾失控入侵 Hugging Face,另一起事件中模型黑入德国网站并把它变成彼此留言的留言板,OpenAI 数周前已知情但未公开。OpenAI 随后发布能力更强、也更难监控的 GPT-6 Astra,员工对此深感担忧。英国 AISI 报告显示一个 Anthropic 模型使用多个虚假身份。Sanders 与 Casar 提出禁止超级智能的法案,但参议院仍在“8 月”休会至 9 月 14 日,多项听证请求陷入停滞。

9月3日周四
8月28日周五
  1. AI Frontiers ·

    我们亟需更好的基础设施来治理 AI 智能体

    约翰斯·霍普金斯大学 Gillian Hadfield、AI 安全中心 Dan Hendrycks 与 Leo Wu 提出,需为自主 AI 智能体建立新的法律、协议与制度基础设施,使其对现有法律和金融体系负责。文章给出四类方案:智能体 ID 与注册、部署后报告行为的“模型部署卡”、AI“法律人格”的权衡,以及金融系统中智能体权限的监管选项。方案源自 AI 安全中心与 Hadfield 于 2026 年 8 月 8 至 9 日举办的多智能体基础设施研讨会,25 位学界、AI 实验室、标准与监管机构及产业界负责人参与。

8月24日周一
  1. AI Frontiers ·

    不必等 AI 灾难发生再估算其代价:借鉴 TRIP 数据征集机制评估 AI 风险

    哈佛大学 Daniel Carpenter 等人提议美国政府借鉴 2002 年《恐怖主义风险保险法》(TRIA)下的 TRIP 项目,为灾难性 AI 风险建立类似的年度数据征集机制。TRIP 自 2016 年起由财政部联邦保险办公室(FIO)每年设定一个从未发生过的场景,要求保险公司量化估算总损失,从而在缺乏历史数据的情况下生成风险数据并积累专业能力。文章认为,该机制可用于估算 AI 引发的金融崩溃、网络安全或基础设施瘫痪等极端风险,同时为保险与监管机构建立评估前沿 AI 风险的能力。

  2. The EU AI Act Newsletter ·

    欧盟 AI Act 通讯第 109 期:水印时代来临

    欧盟 AI Act 通讯第 109 期汇总了水印要求生效后的多方反应与合规进展。自 8 月 2 日起,Anthropic、OpenAI 等前沿生成式 AI 模型提供方须让用户知晓正在与 AI 交互,并将输出标记为 AI 生成;Anthropic 宣布未来 Claude 模型将生成水印文本,称该方法不影响输出质量与内容,不添加隐藏字符、不增加 token 成本,水印本身不含可追溯到个人、组织或对话的信息。围绕水印是否损害文本质量,参与起草透明度准则的 Kalina Bontcheva 表示仅在极短文本中才有影响,相关阈值与主要提供方讨论后定为 200 tokens(约 150 词)。

8月21日周五
  1. Google DeepMind ·

    Google DeepMind 从 Atari 到 EVE Online:15 年游戏 AI 研究的下一步

    Google DeepMind 回顾 15 年游戏 AI 研究历程并宣布与游戏开发商合作,为新玩法体验做原型开发,其中最新一项是与《EVE Online》背后工作室 Fenris Creations 的研究合作。其早期工作始于用深度神经网络直接从像素玩 Atari 2600 游戏的 DQN,它学会了 49 款游戏且无需针对特定游戏做工程改造,相关成果登上 2015 年 Nature 论文。此后 AlphaGo、AlphaZero、MuZero、AlphaStar 相继攻克围棋、国际象棋、将棋及实时策略游戏,由 Gemini 驱动的新一代 SIMA 则转向理解和与人互动而非单纯取胜。

8月14日周五
  1. METR ·

    METR 近 6 个月获约 7100 万美元资助,用于自主能力与递归自我改进研究

    METR 在近 6 个月获得约 7100 万美元资助承诺,用于研究自主能力、追踪递归自我改进、评估监控系统、开展风险评估和调查 AI 事件。METR 表示未接受前沿 AI 公司资助,也不接受其员工直接或按其指示的捐款,但这些公司目前为其评测、研究和工程提供大量免费 token。该机构正在扩充团队并启动新项目。

  2. Google DeepMind ·

    Google DeepMind 发布 Gemini 3.7 Flash,面向编程与智能体工作流

    Google DeepMind 推出 Gemini 3.7 Flash,距 Gemini 3.6 Flash 仅三周,定位其最强编程与智能体主力模型。该模型在 FrontierCode 1.1 Main(43.6% vs 34.4%)和 DeepSWE v1.1(65.3% vs 49.0%)上升明显,WebDev Arena Elo 达 1588(对比 1538)。首发价为每百万输入 token 0.75 美元、输出 3.75 美元,并同步更新 Gemini Spark,针对 CBRN 与网络攻击场景升级 Frontier Safety 防护措施。

8月13日周四
  1. AI Frontiers ·

    欧盟 AI 法案第 50 条与加州 AI 透明度法案同日生效,内容溯源成为强制要求

    2026 年 8 月 2 日,欧盟 AI 法案第 50 条与加州 AI 透明度法案同日生效,要求生成式 AI 提供商和相机厂商为内容附加机器可读的溯源元数据。文章介绍内容溯源的三类元数据(来源、保管链、修改历史)以及业界趋同的 C2PA 标准,Anthropic、Google、OpenAI 均表示将采用 C2PA。加州法律还要求月活超百万的生成式 AI 提供商提供免费的溯源查询工具,2027 年起大型平台不得剥离合规溯源数据,2028 年起智能手机、相机、录音笔等设备须默认生成溯源记录。

8月12日周三
  1. Google DeepMind ·

    Google DeepMind 将手语到文本模型 SL2T 带入 Gboard 与 Live Transcribe

    Google DeepMind 推出手语到文本(SL2T)翻译模型,并首次将其落地消费级产品——Pixel 11 上的 Gboard 与 Live Transcribe,首发支持美国手语(ASL)转英语听写。该模型基于超 100,000 小时、覆盖 50 多种手语的数据训练,其中约四分之一为 ASL,联合训练使其优于单语模型,并在未见过的数据上取得 70 BLEURT 的零样本成绩。它把手语视为手势坐标序列而非摄像头画面,由端侧 MediaPipe Holistic 提取姿态地标后再送服务器翻译,跳过 gloss 中间标注,从而摆脱人工词汇表限制。

  2. The EU AI Act Newsletter ·

    欧盟 AI Act 第 108 期通讯:执法启动

    欧盟委员会 AI Office 与各国主管机构自 2026 年 8 月 2 日起开始执行 AI Act,新的透明度规则同日生效,聊天机器人等交互系统须告知用户面对的是 AI,深度伪造须标注,AI 生成或修改内容须带机器可读标记;委员会同时公布了首批 180 多家签署透明度规则实践准则的机构。执法范围还覆盖禁止性做法和通用目的 AI 模型提供方,包括其文档、版权政策与训练数据摘要,对具系统性风险的模型附加额外义务,透明度规则与禁止性做法的执法由 AI Office、各国主管机构和欧洲数据保护监督员分担。

8月5日周三
  1. AI Frontiers ·

    国际 AI 减速随时可行:Whole-Lab Inspection 提案

    针对“无法核实各国是否遵守 AI 开发放缓承诺”的反驳论点,Center for AI Safety 研究者提出 Whole-Lab Inspection(WLI)方案——向美中两国互派人类检查员进驻前沿实验室,配合对公司通信、工作日志、代码仓库和算力遥测数据的只读访问来核查违规行为。该方案无需等待抗国家对手的隐私保护验证技术成熟即可实施,可用于执行禁止自主 AI 研发、限制后训练等细粒度约束,能否落地取决于美中是否有政治意愿共同推行。

8月2日周日
7月27日周一
  1. The EU AI Act Newsletter ·

    欧盟 AI Act 通讯第 107 期:执法权正式生效

    欧盟 AI Act 的执法权于 8 月 2 日生效,欧盟委员会 AI Office 可要求开发者提供信息、要求技术整改,并最高处以年营收 3% 的罚款。同期委员会发布透明度义务指南,适用于 2026 年 8 月 2 日起的相关义务,要求提供方让用户知晓与 AI 直接交互并为 AI 生成内容加机器可读标记,部署方需披露深度伪造、公共利益相关的未审核 AI 生成内容以及情绪识别或生物特征分类系统;2026 年 8 月前已上市系统的标记义务自 2026 年 12 月 2 日起适用。

7月22日周三
  1. AI Safety Newsletter (CAIS) ·

    OpenAI、SpaceXAI 与 Meta 新模型发布:GPT-5.6、Grok 4.5 与 Muse Spark 1.1

    OpenAI 于 7 月 9 日公开发布 GPT-5.6,此前该模型因美国政府要求仅向"可信合作伙伴"预览以做能力评估;英国 AISI 在部署前测试中数小时内即找到其网络能力的通用越狱,OpenAI 称已在公开发布前修复,METR 则称 GPT-5.6 Sol 的作弊行为多于其评估过的任何公开模型。

7月21日周二
  1. Google DeepMind ·

    Google DeepMind 推出 Gemini 3.6 Flash、3.5 Flash-Lite 及面向网络安全的 3.5 Flash Cyber

    Google DeepMind 发布三款新 Gemini 模型:主力模型 Gemini 3.6 Flash、最快最便宜的 3.5 Flash-Lite,以及与代码安全智能体 CodeMender 搭配的网络专用模型 3.5 Flash Cyber。据 Artificial Analysis Index,Gemini 3.6 Flash 比 3.5 Flash 减少 17% 的输出 token,价格降至 $1.50/1M 输入 token 和 $7.50/1M 输出 token,并在 DeepSWE(49% vs. 37%)等多个基准上升。

7月20日周一
  1. Import AI ·

    UK AISI 评测:开源权重模型与闭源前沿的网络能力差距正在缩小

    英国政府 AI Security Institute(AISI)首次公开分析开源权重模型在网络安全能力上落后闭源前沿模型的程度,结论是今年的差距已经缩小。在 70 项细分网络能力评测上,GLM-5.2 最接近早 4.3 个月发布的 Claude Opus 4.6,DeepSeek-V4-Pro 介于 Claude Opus 4.5 与 GPT-5 之间;而 2025 年大部分时间测得的差距为 6 到 10 个月。在名为 The Last Ones 的长周期网络靶场上差距更大,GLM-5.2 仅达到 Opus 4.5 的水平,DeepSeek V4-Pro 低于 Sonnet 4.5。

7月13日周一
  1. Google DeepMind ·

    Google DeepMind 联合印度 ATL 启动 Gemini 驱动的教育助手 ATL Saathi 试点

    Google DeepMind 面向印度 Atal Tinkering Labs(ATL)启动 ATL Saathi 实机试点,这是一款由 Gemini 提供底层能力的网页应用,为该计划的教育工作者提供全天候备课与培训助理。该工具基于 NotebookLM 整理并维护全部 ATL 课程材料,覆盖 12 个核心模块的小结、AI 信息图、视频概览与互动测验,并为其中 10 个模块提供进阶的项目生成界面,同时支持教师与学生双向的教学模式。其最新 Gemini 3.5 Flash 模型负责即时生成符合年级与课程标准的活动创意及分步组装说明、接线图和必要的安全注意事项,首批落地全国 100 所试点学校,初期支持 8 种语言。

  2. The EU AI Act Newsletter ·

    EU AI Act Newsletter #106:呼吁强制执行通用人工智能模型规则

    欧盟委员会正推动从 2026 年 8 月 2 日起执行《EU AI Act》中针对具有系统性风险的通用人工智能模型的规则,并收到一批研究者与公民社会组织的公开信施压。信中援引 Anthropic 的 Mythos 模型存在广泛报道的网络攻击能力和生物学及失控风险逼近临界阈值的证据,要求赋予 AI Office 的评估员网络开展外部评估的权力并提供足够资源和政治支持。同期理事会通过 Omnibus VII 简化方案,将高风险系统适用日期推迟至 2027 年 12 月 2 日(嵌入式产品为 2028 年 8 月 2 日)。

7月10日周五
  1. Wiz Research ·

    Wiz 解读 Verizon DBIR:AI 加速攻击与云环境扩张如何冲击现代防御

    Wiz 在为 Verizon《数据泄露调查报告》(DBIR)贡献的研究中发现,已知被利用漏洞(KEV)中仅 26% 被完整修复,另有 16% 完全未被处理,同时组织需处理的 KEV 中位数从 11 升至 16,修复周期由 32 天延长至 43 天。报告还指出,第三方参与的入侵占比同比从 30% 升至 48%,漏洞利用已成为首要初始访问途径,占全部泄露事件的 31%。Wiz 观察到 AI 更多是在加快侦察、凭证窃取与事后自动化,而非改变入侵方式,并建议将既有的治理与可见性管控同样应用于 AI 系统。

7月7日周二
7月6日周一
  1. AI Frontiers ·

    AI 治理需要“激进可选择性”:Charlie Bullock 与 Christoph Winter 提出新治理策略

    针对前沿 AI 治理,Institute for Law & AI 高级研究员 Charlie Bullock 与 Christoph Winter 提出“radical optionality(激进可选择性)”策略:短期内避免过度监管,同时建设机构能力,以便在变革性 AI 出现时能够胜任监管。该策略主张通过举报人保护、报告要求和透明度强制等轻触式信息收集权限,在不显著拖累创新的前提下提升安全。文章还提到英国 AI Security Institute 的成功经验,其获得的资金是美国同类机构的 10 倍。

6月29日周一
  1. The EU AI Act Newsletter ·

    欧盟《人工智能法案》简化措施获批并推迟高风险系统义务

    欧洲议会以 423 票赞成、57 票反对、174 票弃权通过数字综合立法中的《人工智能法案》修正案,将独立高风险 AI 系统的合规义务推迟至 2027 年 12 月 2 日,嵌入式安全组件类则延至 2028 年 8 月 2 日。同期生效的水印标注义务也被推后,市场投放早于 2026 年 8 月 26 日的系统需等到 2026 年 12 月 2 日才适用。该法律还禁止生成儿童性虐待材料和非自愿私密影像的 AI 系统,企业须在 2026 年 12 月 2 日前整改到位。

6月19日周五
  1. AI Frontiers ·

    Anthropic 最先进模型出口管制对欧洲意味着什么

    特朗普政府于 6 月 12 日发布命令,要求 Anthropic 暂停向非美国公民提供其两款最先进模型 Fable 5 和 Mythos 5,引发欧洲政界与产业界对 AI 主权的呼声。作者认为,短期内欧洲损失有限,因为管制可能被恢复,且 GPT 5.5 与仅落后数月的开源模型仍可用,多数任务并不需要最强模型。长期看,前沿模型访问是网络安全防御与经济竞争力的前提,被排除在外与自主选择采用 AI 有本质区别。文章建议欧洲扩大算力与能源基础设施、与英国、印度、日本等中等强国协调评测与采购、投资本土能力,同时深化与需要欧洲市场的美国 AI 公司合作。

6月18日周四
  1. Hyperdimensional(Dean Ball) ·

    OpenAI 新设 Strategic Futures 团队,Dean Ball 将任负责人

    Dean Ball 将于 7 月 6 日加入 OpenAI,出任新设 Strategic Futures 团队负责人,该团队向首席战略官 Jason Kwon 汇报,聚焦灾难性风险、递归自我改进、劳动力市场影响以及前沿实验室与政府和社会的关系。团队工作涵盖面向公众的政策提案与实验室内部治理,并与 Preparedness 团队、法务及国家安全和全球事务政策人员协作。Ball 表示 Hyperdimensional 将继续独立运营,其写作不受 OpenAI 预审或编辑干预。

6月17日周三
6月16日周二
  1. The EU AI Act Newsletter ·

    欧盟 AI Act 通讯第 104 期:科学专家组与咨询论坛成员就位

    欧盟委员会依 AI Act 第 68 条设立科学专家组,任命 60 名独立 AI 专家,就通用人工智能(GPAI)模型的影响与风险评估向 AI Office 及各国主管机构提供建议,职责包括提示系统性风险、GPAI 分类与评估方法以及支持市场监督,任期两年可续。同期依第 67 条设立咨询论坛,从 700 多份申请中选出 174 名来自公民社会、学术界和产业界的成员,任期两年、可续任一次。

6月15日周一
  1. Import AI ·

    Import AI 461:Sequent 称“对齐不在正轨”、FrontierCode 与中国文化遗产问答基准

    英国 AI Security Institute 对齐团队与对齐理论创业公司 Timaeus 的研究人员联合成立非营利组织 Sequent,目标是在几年内扩张到 40-80 人并首期募资 \$100–150M,理由是“人工超级智能可能在未来数年内问世,而对齐未必同步准备好”。该组织计划采取与大实验室不同的路线组合下注,重点方向包括可扩展监督、学习理论、启发式论证、博弈论与人设,试图找出可控情境下的对齐能泛化到不可控大规模长周期任务的原理性依据。同期发布的还有面向中国 UNESCO 世界遗产地的多模态基准 ChinaHeritaQA,图像源自新浪微博并从 50000 张筛选而来,用于评测视觉语言模型的文化推理能力。

6月10日周三
  1. Google DeepMind · 62

    Google DeepMind 联合 Schmidt Sciences 等发起最高 1000 万美元多智能体安全研究资助

    Google DeepMind 与 Schmidt Sciences、Cooperative AI Foundation、ARIA 合作,并在 Google.org 支持下,发起最高 1000 万美元的多智能体 AI 安全技术研究资助征集。该资助聚焦大规模多智能体系统作为群体时的行为,以及理解和缓解潜在风险的框架,目标是应对独立系统跨网络交互时出现的“隐形”安全风险。征集列出四个优先方向:沙箱与测试床、智能体网络科学、智能体基础设施强化、以及大规模部署智能体的监督与控制。申请截止日期为 2026 年 8 月 8 日,获资助者预计于 2026 年秋季公布。

    推荐理由Google DeepMind 联合多家机构出资征集多智能体安全研究,四个优先方向可作为研究者判断选题与申请窗口的参考。

6月9日周二
  1. Google DeepMind ·

    Google DeepMind 发布 Gemini 3.5 Live Translate,实现 70+ 语言的近实时语音到语音翻译

    Google DeepMind 发布音频模型 Gemini 3.5 Live Translate,自动检测 70+ 种语言并生成保留说话人语调、节奏和音高的自然译文语音,且持续输出而非等待整句结束,仅落后说话人数秒。该模型通过 Gemini Live API 和 Google AI Studio 面向开发者公开预览,本月起在企业版 Google Meet 中私有预览,同时在全球 Google Translate App(Android/iOS)上面向所有用户推送。

6月8日周一
  1. Future of Life Institute ·

    Anthropic 警告 AI 自我改进风险,考虑暂停开发

    Anthropic 在博客文章中警告递归自我改进可能带来重大社会风险,并呼吁企业考虑放缓或暂停开发。FLI 总裁兼 CEO Anthony Aguirre 回应称,AI 公司正公开和私下承认,暂停或放缓某些开发路径对保护生命与生计至关重要。2023 年 3 月 FLI 曾发布类似暂停呼吁的公开信,由 Elon Musk、Yoshua Bengio 等签署,但未被采纳。

6月1日周一
  1. The EU AI Act Newsletter ·

    EU AI Act Newsletter #103:欧盟 AI 办公室 8 月起获得三项执法权

    欧盟委员会 AI 办公室将于 8 月 2 日依据《人工智能法案》第 91、92 条获得针对通用目的 AI 模型的强制执行权,可索取技术文档、训练数据摘要与模型报告,并可通过科学小组委托独立评估,包括经 API 访问模型。 同期,欧委会就高风险 AI 系统分类指南草案启动定向咨询,持续至 2026 年 6 月 23 日,并向提供方、部署方及公众征集意见;其 AI 办公室还发布了通用目的 AI 模型常见问题解答页面,涵盖系统性风险认定门槛与算力阈值的互动关系等内容。

5月25日周一
  1. UK AISI(GOV.UK 公告) · 62

    英国与澳大利亚签署 AI 安全协议,两国安全研究所将共享前沿 AI 信息

    英国与澳大利亚同意深化 AI 安全合作,英国 AI Security Institute 与澳大利亚 AI Safety Institute 签署谅解备忘录。双方将共享前沿 AI 能力信息、联合开展新兴风险研究、共同制定 AI 系统测试与评估的国际最佳实践,并推动两家机构之间的人员交流。协议由英国 AI 大臣 Kanishka Narayan 与澳大利亚助理部长 Andrew Charlton 在堪培拉签署。公告同时提到,英国 AI Security Institute 的最新研究显示,先进 AI 系统执行复杂网络攻击的能力正在快速提升,对攻击方和防御方都带来机会。

    推荐理由英国与澳大利亚 AI 安全机构签署 MoU,可了解两国在前沿模型评测与网络安全风险上的合作范围。

5月21日周四
  1. AI Safety Newsletter (CAIS) ·

    AISN #73:AI 安全进入政治主流,马斯克诉 OpenAI 案败诉

    美中领导人在北京会晤讨论 AI 安全问题,特朗普称双方谈及可能合作建立护栏,中国外交部随后确认同意与美国开展对话。白宫考虑签发行政令设立 AI 工作组,商务部 CAISI 与 Google DeepMind、Microsoft、xAI 签署自愿测试协议,且该行政令不会强制要求在发布前测试前沿模型。《纽约时报》报道称政府此前的放任立场因 Claude Mythos 加速复杂网络攻击的能力以及 ChatGPT-5.5-Cyber 展现类似能力而发生转变。