跳到正文

AI 动态

今天还没有收录新动态
10月5日周一
  1. CSET · 收录 · 原文 13

    CSET 专家 Sam Bresnick 就中美 AI 竞争等议题接受多家媒体采访

    CSET 的 Sam Bresnick 近期在 BBC、ABC News、CBS News 和 NewsNation 等媒体就多项 AI 安全议题发表专家观点。在 BBC 的文章中,他分析了中国针对 AI 伴侣出台的新规,以及中国在应对情感依赖和儿童安全担忧方面的举措。在 CBS News 的报道中,他探讨了伊朗等美国对手如何日益利用人工智能支持军事、情报、网络和信息行动。

  2. The Decoder · 收录 · 原文 ↑474

    特朗普成立"超级智能部队"(SIF),与真正的超级智能无关

    特朗普宣布成立"超级智能部队"(SIF),他所说的"超级智能"只是其对人工智能的称呼,与 AI 研究中指自我改进、远超人类智能的 ASI 概念无关。该机构将协调面向消费者、利益团体、宗教组织、关键基础设施运营方和 AI 公司的外联工作,由情报总监 Jay Clayton、FTC 主席 Andrew Ferguson、研究副部长 Emil Michael、CTO Scott Kupor 等官员领导,直接向总统及幕僚长 Susie Wiles 汇报。此前白宫一场科技 CEO 聚会签署了"道德约束性"合同,要求由独立第三方审计员核实 AI 模型"按预期运行"。

    2 条报道 · 2 个来源查看事件时间线与全部报道
10月3日周六
  1. The Guardian · 人工智能 · 收录 · 原文 59

    Google 发布 Gemini 4 Argon 但以安全为由限制访问

    Google 9 月 30 日宣布暂不向公众开放其最强模型 Gemini 4 Argon,仅向经过审查的网络安全专家群体发布,以避免被黑客滥用。Google 首席 AI 架构师 Koray Kavukcuoglu 在博客中称,安全释放这一级别的前沿能力需要分阶段推进;Google 还主动向美国政府提供早期访问权限,并在广泛开放前收集测试者反馈。这一谨慎做法与 Anthropic 类似,后者将其最先进模型 Claude Mythos Preview 限制在少数可信组织内。Google 称 Argon 在软件工程、法律与金融工作及网络防御等复杂任务上表现出色,早期测试者用它发现了其他先进模型未能发现的医院软件漏洞。Google 表示 Argon 被设计为拒绝可能协助网络攻击或开发化学、生物、核武器的请求,并监控模型推理以防止偏离用户意图。

    1 条报道 · 1 个来源查看事件时间线与全部报道

    推荐理由Google 将最强模型限定给受审查的网络安全专家,和 Anthropic 的做法相近,可观察前沿模型发布策略的收紧。

  2. Lilian Weng · 收录 · 原文 12

    Thinking Machines 发布交互模型

    过去几个月,我们经历了很多乐趣(和压力😅),产出了 12 个版本(以及许多子版本)和 137 页的训练运行日志。 事实证明,人与人之间的协作对于改善人机协作很重要。😊

    引用Thinking Machines@thinkymachines

    People talk, listen, watch, think, and collaborate at the same time, in real time. We've designed an AI that works with people the same way. We share our approach, early results, and a quick look at our model in action. https://thinkingmachines.ai/blog/interaction-models

  3. Simon Willison · 收录 · 原文 6

    Simonw 直播 OpenAI DevDay 主题演讲

    我今天在旧金山参加 OpenAI 的 DevDay 活动——和过去三届 DevDay 一样,我在做实时博客,会在主题演讲期间发布更新,演讲五分钟后开始 https://simonwillison.net/2026/Sep/29/openai-devday-2026-live-blog/

10月2日周五
  1. Mistral AI · 收录 · 原文 6

    Mistral AI 发布 Mistral OCR 3

    Mistral AI 发布 Mistral OCR 3,在表单、扫描件、复杂表格和手写内容上相对 Mistral OCR 2 取得 74% 整体胜率,并已驱动 Mistral AI Studio 中的 Document AI Playground。该模型支持带 HTML 表格重建的 markdown 输出,定价为每 1,000 页 $2,Batch-API 折扣后降至 $1,模型标识为 mistral-ocr-2512,与 Mistral OCR 2 完全向后兼容,并提供自托管选项。

  2. Mistral AI · 收录 · 原文 8

    Mistral 将 Le Chat 升级为统一 AI 智能体 Vibe,覆盖办公与编程

    Mistral 将 Le Chat 升级为统一 AI 智能体 Vibe,用同一份订阅覆盖办公与编程,原有对话、设置和套餐全部保留。Vibe 提供 Work Mode 和 Code Mode:前者跨 Google Workspace、Outlook、SharePoint、Slack、GitHub 等连接器执行多步任务,后者在隔离沙箱中运行可并行的远程编程会话,并新增 VS Code 扩展和 CLI 更新。Vibe 已上线 chat.mistral.ai,提供 Free、Pro($14.99/月)、Team($24.99/用户/月)和 Enterprise 四档套餐。

  3. Mistral AI · 收录 · 原文 8

    Mistral 在 AI Now Summit 2026 发布工业工程 AI 栈、Vibe 智能体与法国 10 MW 数据中心

    Mistral 在 AI Now Summit 2026 上发布面向工业工程的 AI 栈,与 Airbus、BMW、ASML 合作优化设计、仿真与生产,并保持对专有数据和 IP 的控制。其智能体工具 Vibe 升级为可处理长周期多步任务,覆盖收件箱与日历整理、深度研究、交付物起草及从需求到合并变更的编码工作。位于法国 Les Ulis 的 10 MW 推理数据中心计划于 2026 年 Q3 启用,以增强算力控制与安全。

  4. 新西兰 NCSC(AI 相关) · 收录 · 原文 8

    新西兰 NCSC 调查:多数新西兰人对网络安全态度积极,但对 AI 工具持谨慎态度

    新西兰 NCSC 发布的年度国际调查《Oh Behave!》覆盖新西兰、美国、加拿大、德国、英国、澳大利亚和印度共逾6500人,结果显示新西兰人在多个网络安全行为指标上领先受访国家:35%始终备份重要数据、69%"总是"或"经常"检查钓鱼迹象均为最高,仅35%觉得网络安全令人生畏则为最低。同时新西兰人对 AI 工具最为警惕——仅有48%有信心辨别 AI 生成内容、28%愿意向 AI 工具分享敏感工作信息,均为七国中最低,且仅47%信任企业负责任地实施 AI。

  5. Mistral AI · 收录 · 原文 8

    Mistral 联手 Mozilla 将开放私密的多语言 AI 带入浏览器

    Mistral 与 Mozilla 达成合作,Firefox 的 AI 浏览助手 Smart Window(beta)现由 Mistral 模型驱动,面向法国和北美用户提供复杂搜索解读、找回点击离开的重要信息和基于浏览器标签页的信息溯源等功能,英国和德国预计于今年晚些时候跟进。该助手的对话默认不保存在 Mozilla 服务器上,且 Mistral 承诺零数据留存,双方还针对地区语言和文化语境进行模型微调。

  6. Tech Policy Press · 收录 · 原文 28

    AI 如何重塑 2026 美国中期选举的信息环境

    布伦南司法中心发布专家简报《AI 是打击还是助长选举虚假信息?》,其作者、该中心选举与政府项目副总裁 Lawrence Norden 指出,AI 正通过支撑虚假阴谋论、加剧针对选举官员的暴力威胁,深度介入选举信息环境。Norden 表示,2016 年后选举安全已有大幅改善,但当前政府传播选举虚假信息、削减对选举官员的安全支持,构成新的挑战;各州正自行填补联邦层面的空缺。

  7. Tech Policy Press · 收录 · 原文 15

    美国 K-12 开学季:各学区对 AI 谨慎立规,ChatGPT 与 Claude 未被列入芝加哥公立学校批准清单

    美国 K-12 学区在新学年普遍采取审慎路线,设立护栏并推广 AI 素养教育,却回避系统性的具体规定,将课堂决策下放给教师,校外使用基本不管。芝加哥公立学校的生成式 AI 指南虽维护了一份获批教育科技清单,但不含 ChatGPT 和 Claude;休斯顿独立学区则允许 14 岁以下学生在教职工监督下学习并使用预先批准的 AI 工具,14 岁以上需家长同意及教师许可。一项 2025 年调查中六成教育工作者称所在学区的政策不清晰,Gallup 民调仅 18% 教师获得正式指导,而近七成青少年已在学业中使用 AI。

  8. Tech Policy Press · 收录 · 原文 24

    纽约市与洛杉矶联合学区对校园 AI 实施禁令

    美国最大的两个学区——纽约市公立学校与洛杉矶联合学区(LAUSD)在新学年收紧校园 AI 政策:NYC 禁止所有 K-8 年级的学生端 AI,仅允许高中生使用有限获批工具;同日 LAUSD 对其约 37.8 万名学生在校设备上的生成式 AI 实施为期一年的暂停令。此举距两区此前解除 ChatGPT 封禁并转向宽松立场已有数年,背后推动力来自家长、教师与学生组成的联盟持续施压。

  9. Tech Policy Press · 收录 · 原文 18

    美国多地学区收紧课堂 AI 政策:纽约市禁 K-8 年级学生使用多数 AI

    美国多个大型学区在新学年出台课堂 AI 新政,纽约市禁止 K-8 年级学生使用绝大多数面向学生的 AI 应用,仅允许高中生在有限范围内使用经批准的工具;洛杉矶联合学区则对所有约 378,000 名学生实行为期一年的生成式 AI 禁令。此前各学区的做法普遍偏谨慎,主要针对不当用途设限并推动 AI 素养教育,而非明确规定可用场景,另有约 35 个州发布了官方的 AI 指导方针和政策。

  10. Transparency Coalition.AI · 收录 · 原文 15

    Transparency Coalition.AI 发布返校季 AI 指南,面向家长学生教师

    Transparency Coalition.AI 发布了一份面向家长、学生和教师的返校季 AI 资源指南,并称将随更多研究持续更新该页面。据其援引的数据,截至 2026 年 9 月多数研究者认同 20%-30% 的美国青少年每天使用聊天机器人,Pew 调查则显示 64% 美国青少年用过聊天机器人、30% 每日使用,Common Sense Media 报告称六成青少年将其用于学业且不到一半获得过指导。指南强调 13 岁以下儿童不应接触聊天机器人,指出所有聊天机器人都存在模型幻觉问题,早期研究表明借助 AI 做作业的学生掌握材料的效果反而更差,并收录了纽约市禁止中小学使用 AI、洛杉矶联合学区限屏以及休斯敦 Katy 学区限制 K-6 年级使用 AI 等政策动态。

  11. IAPS · 收录 · 原文 28

    半导体制造设备出口管制如何遏制中国 AI 芯片产能——美国 IAPS 问题简报解析

    美国对半导体制造设备的出口管制显著延缓了中国 AI 芯片制造进程,使美国在 AI 基础设施上保持优势。据 IAPS 测算,2026 年中国本土生产的 AI 芯片总量仅为美国公司的 1–2%。现行管制通过实体清单、最终用途限制及外国直接产品规则(FDPR)覆盖 EUV 光刻机等先进设备,荷兰 ASML 独家供应且研发投入达 60 亿欧元、耗时 17 年才实现量产,成为中国难以逾越的关键瓶颈。

  12. Transparency Coalition.AI · 收录 · 原文 31

    加州签署 SB 1050:AI 生成的“合成表演者”广告须明确披露

    加州州长 Gavin Newsom 签署 SB 1050,要求使用 AI 生成表演者的视频或音频广告必须明确披露,加州由此成为第二个作出此类要求的州。该法还禁止继续使用被认定违规的广告;纽约的合成表演者披露法已于 2026 年 6 月生效,要求含 AI 生成人物的广告加注清晰标签。

  13. Microsoft On the Issues · 收录 · 原文 15

    Microsoft 发布 Safe Participation Framework:面向下一代的安全参与框架

    Microsoft 公布 Safe Participation Framework,围绕设计安全和年龄差异化体验两大支柱,为未成年人提供隐私保护且适龄的在线与 AI 体验。 该框架强调从源头识别风险并实施相称的保护措施,延续其自 2009 年 PhotoDNA 以来的投入,并将相关经验应用到 Copilot——所有用户需登录方可使用,13 岁以下儿童访问受限(当地法律另有规定的除外)。 同时推出的还有新的 Windows Age API、增强的年龄保证能力和家庭安全工具,旨在向开发者提供可信的年龄信号,帮助建立跨生态一致且注重隐私的适龄体验基础。

  14. Microsoft On the Issues · 收录 · 原文 8

    微软启动 Check. Recheck. Vote. 计划,帮助选民应对 AI 生成的选举信息

    微软在 2026 年中期选举前推出选民教育计划 Check. Recheck. Vote. 的新阶段,帮助选民识别 AI 生成选举信息中的风险。该计划要求选民核查 AI 答案的来源与引用、通过原始来源复核关键细节,并依据州或地方选举官网的当前信息投票。微软同时与 NASS、NASED 合作将计划推广至全美五十州及属地,并与 iCivics 合作推出 Minecraft Education 公民学习体验 Village Square。

10月1日周四
  1. Help Net Security AI · 收录 · 原文 8

    调查:多数人预计 AI 进入 SOC 会让初级安全岗位更难获得

    Swimlane 对 500 名已使用 AI 的安全运营中心(SOC)人员的调查显示,近九成受访者称 AI 让工作更满意,但约四分之一认为 AI 阻碍了自身安全技能的积累,且这两类人的满意度几乎相同(91% 对 92%)。近半数预计初级岗位将因要求更高或机会更少而更难获得,仅 1% 认为分析师职业路径会维持原状。约四成受访者所在组织已围绕高价值工作正式重写分析师岗位,其中 71% 称 AI 显著提升了满意度,无正式调整者仅为 29%。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  2. 雷峰网安全频道 · 收录 · 原文 6

    对话亚信安全:为什么我们需要新一代终端安全?

    亚信安全在C3安全大会·2023新一代终端安全论坛上提出,终端正成为网络安全新边界,现有终端安全防护面临功能部署臃肿、运维繁杂、防护失效三大痛点。亚信安全终端安全产品总经理汪晨称,85%的黑客攻击潜伏在网络加密流量中,需在终端侧增强才能看清威胁。6月29日,亚信安全推出新一代终端安全品牌TrustOne,以“极简新”为理念,集产品能力、部署、管理、运维一体化,具备原子能力化、攻击面管理、风险治理数字化、已知未知攻击检测响应和一体化平台化五方面能力。

  3. 雷峰网安全频道 · 收录 · 原文 2

    ISC 2023:360 智脑支持的 AI 数字人如何成为大模型入口

    ISC 2023 第十一届互联网安全大会以"安全即服务,开启人工智能时代数字安全新范式"为主题,打造全球首场 AI 数字安全峰会,开幕式由 360 智脑驱动的数字主持人"可心"全程主持。大会还开设线上数字小镇,50 位企业家、学者与技术专家以 AI 数字人身份围绕漏洞检测、威胁流量检测、数据安全等话题展开 50 余场演讲。周鸿祎称 AI 数字人是大模型最重要的应用入口,360 将借此降低 prompt 使用门槛,推动大模型在消费级与企业级场景落地。

  4. OpenAI · 收录 · 原文 20

    OpenAI DevDay 2026 回顾:GPT-6 Astra、ChatGPT、Codex 与 API 更新

    OpenAI DevDay 2026 公布 20 多项发布,涵盖 GPT-6 Astra、ChatGPT、Codex、API 以及面向开发者的安全与新工具。

    3 条报道 · 2 个来源查看事件时间线与全部报道
  5. Google DeepMind · 收录 · 原文 8

    Google DeepMind 推出 Gemini Omni,首款模型 Gemini Omni Flash 可将任意输入转为视频

    Google DeepMind 推出新一代模型家族 Gemini Omni,首个成员 Gemini Omni Flash 今日面向全球所有 Google AI Plus、Pro 和 Ultra 订阅用户在 Gemini App 及 Google Flow 开放,可从图像、音频、视频和文本的组合输入生成高质量视频并对话式剪辑。 该模型基于 Gemini 的原生多模态与世界知识进行推理,具备更强的重力、动能、流体动力学直觉,能跨轮次精修环境、角度、风格且角色一致;同时可通过 Avatar 用自己的声音创建数字分身,全部产出带不可察觉的 SynthID 水印,目前仅支持语音参考作为音频输入,图像与音频输出模态将陆续加入。

  6. Google DeepMind · 收录 · 原文 8

    Google DeepMind 发布 Gemini 3.5 Live Translate,实现 70+ 语言的近实时语音到语音翻译

    Google DeepMind 发布音频模型 Gemini 3.5 Live Translate,自动检测 70+ 种语言并生成保留说话人语调、节奏和音高的自然译文语音,且持续输出而非等待整句结束,仅落后说话人数秒。该模型通过 Gemini Live API 和 Google AI Studio 面向开发者公开预览,本月起在企业版 Google Meet 中私有预览,同时在全球 Google Translate App(Android/iOS)上面向所有用户推送。

  7. Google DeepMind · 收录 · 原文 6

    Google DeepMind 联合印度 ATL 启动 Gemini 驱动的教育助手 ATL Saathi 试点

    Google DeepMind 面向印度 Atal Tinkering Labs(ATL)启动 ATL Saathi 实机试点,这是一款由 Gemini 提供底层能力的网页应用,为该计划的教育工作者提供全天候备课与培训助理。该工具基于 NotebookLM 整理并维护全部 ATL 课程材料,覆盖 12 个核心模块的小结、AI 信息图、视频概览与互动测验,并为其中 10 个模块提供进阶的项目生成界面,同时支持教师与学生双向的教学模式。其最新 Gemini 3.5 Flash 模型负责即时生成符合年级与课程标准的活动创意及分步组装说明、接线图和必要的安全注意事项,首批落地全国 100 所试点学校,初期支持 8 种语言。

  8. Google DeepMind · 收录 · 原文 7

    Google DeepMind 将手语到文本模型 SL2T 带入 Gboard 与 Live Transcribe

    Google DeepMind 推出手语到文本(SL2T)翻译模型,并首次将其落地消费级产品——Pixel 11 上的 Gboard 与 Live Transcribe,首发支持美国手语(ASL)转英语听写。该模型基于超 100,000 小时、覆盖 50 多种手语的数据训练,其中约四分之一为 ASL,联合训练使其优于单语模型,并在未见过的数据上取得 70 BLEURT 的零样本成绩。它把手语视为手势坐标序列而非摄像头画面,由端侧 MediaPipe Holistic 提取姿态地标后再送服务器翻译,跳过 gloss 中间标注,从而摆脱人工词汇表限制。

  9. The EU AI Act Newsletter · 收录 · 原文 34

    EU AI Act 简化之争:欧洲议会与欧盟理事会就高风险系统规则延期展开角力

    欧洲议会议员以 101 票赞成、9 票反对、8 票弃权通过联合立场,主张推迟部分高风险 AI 系统规则的适用,并提议将固定生效日期定为高风险系统 2027 年 12 月 2 日、受欧盟部门安全立法覆盖的系统 2028 年 8 月 2 日,水印合规延长则缩短至 2026 年 11 月 2 日。欧盟理事会随后也达成一致立场,基本维持欧委会提案主旨,同样引入上述两个固定适用日期,并将 AI 监管沙盒的建设推迟至 2027 年 12 月 2 日。 两方均禁止未经同意生成亲密内容的 AI 行为及儿童性虐待材料,其中议会还新增了对无有效保障措施的“脱衣”(nudifier)系统的禁令。

9月30日周三
  1. Help Net Security AI · 收录 · 原文 16

    Anthropic 发布 Claude Sonnet 5.5:响应快 30% 且不加价

    Anthropic 发布 Claude Sonnet 5.5,官方称其响应速度比 Sonnet 5 快 30% 以上,完成多数任务消耗更少 token,在 API 标价不变的情况下降低单任务成本。

    1 条报道 · 1 个来源查看事件时间线与全部报道
已经到底了