跳到正文

AI 动态

安全不是主角的 AI 圈大事:头部实验室的旗舰模型发布、重大融资并购和行业级事件。

151条动态与论文相关主题OpenAIAnthropic政策与监管
在这个话题内搜索或按分类筛选

新闻与论文

第 81–100 条 · 共 151 条
10月2日周五
  1. Mistral AI · 收录 · 原文 8

    Mistral 将 Le Chat 升级为统一 AI 智能体 Vibe,覆盖办公与编程

    Mistral 将 Le Chat 升级为统一 AI 智能体 Vibe,用同一份订阅覆盖办公与编程,原有对话、设置和套餐全部保留。Vibe 提供 Work Mode 和 Code Mode:前者跨 Google Workspace、Outlook、SharePoint、Slack、GitHub 等连接器执行多步任务,后者在隔离沙箱中运行可并行的远程编程会话,并新增 VS Code 扩展和 CLI 更新。Vibe 已上线 chat.mistral.ai,提供 Free、Pro($14.99/月)、Team($24.99/用户/月)和 Enterprise 四档套餐。

  2. Mistral AI · 收录 · 原文 8

    Mistral 在 AI Now Summit 2026 发布工业工程 AI 栈、Vibe 智能体与法国 10 MW 数据中心

    Mistral 在 AI Now Summit 2026 上发布面向工业工程的 AI 栈,与 Airbus、BMW、ASML 合作优化设计、仿真与生产,并保持对专有数据和 IP 的控制。其智能体工具 Vibe 升级为可处理长周期多步任务,覆盖收件箱与日历整理、深度研究、交付物起草及从需求到合并变更的编码工作。位于法国 Les Ulis 的 10 MW 推理数据中心计划于 2026 年 Q3 启用,以增强算力控制与安全。

  3. WIRED Security and AI · 收录 · 原文 46

    HCA 与 Palantir 的 AI 排班工具 Timpani 遭护士投诉

    美国最大医院连锁 HCA 自 2023 年起在约 190 家院区中的 130 家部署了与 Palantir 联合开发的 AI 排班工具 Timpani,多名护士称其频繁无视排班偏好、在周日等时段安排过少或经验不足的护士,导致人手不足与疲劳。HCA 数据显示 Timpani 平均只把护士申请休假的 1% 排为工作日,但护士表示此前几乎不会出现这种情况。HCA 发言人称最终排班决定由护理管理者而非 Timpani 做出,并否认该工具以牺牲患者护理为代价减少人手。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  4. 新西兰 NCSC(AI 相关) · 收录 · 原文 8

    新西兰 NCSC 调查:多数新西兰人对网络安全态度积极,但对 AI 工具持谨慎态度

    新西兰 NCSC 发布的年度国际调查《Oh Behave!》覆盖新西兰、美国、加拿大、德国、英国、澳大利亚和印度共逾6500人,结果显示新西兰人在多个网络安全行为指标上领先受访国家:35%始终备份重要数据、69%"总是"或"经常"检查钓鱼迹象均为最高,仅35%觉得网络安全令人生畏则为最低。同时新西兰人对 AI 工具最为警惕——仅有48%有信心辨别 AI 生成内容、28%愿意向 AI 工具分享敏感工作信息,均为七国中最低,且仅47%信任企业负责任地实施 AI。

  5. Partnership on AI · 收录 · 原文 14

    GLAAD 报告《Build for Everyone》:AI 系统如何服务所有人

    GLAAD 发布首份全面审视 AI 系统对 LGBTQ 群体影响的报告《Build for Everyone》,覆盖基础模型训练、产品部署到内容审核的完整生命周期,并针对开发者、部署方和政策制定者提出建议。该报告指出,训练数据不完整或有偏见会带来准确性问题——例如医疗 AI 将女性刚性关联特定生理指标可能同时误判跨性别女性和绝经后的顺性别女性。GLAAD 主张企业应在模型开发和产品设计早期就让民间社会参与,并提供第三方审计和数据访问,而非事后补救。

  6. GovAI · 收录 · 原文 27

    Margaret Roberts 与 Jeffrey Ding 谈审查制度对人工智能的影响|GovAI Blog

    加州大学圣地亚哥分校政治学副教授 Molly Roberts 在一场 GovAI 活动中报告了她与 Eddie Yang 合作的研究,探讨审查与中国人工智能之间的关系,指出驱动 AI 应用的海量数据会被人为偏见污染并编码进训练数据,进而通过算法放大到面向用户的界面中。牛津大学未来人类研究所研究员 Jeffrey Ding 担任评议人。该工作被视为其审查与人工智能关系研究的开端,此前已有大量研究关注种族与性别偏见于训练数据集中的编码问题。

  7. Mistral AI · 收录 · 原文 8

    Mistral 联手 Mozilla 将开放私密的多语言 AI 带入浏览器

    Mistral 与 Mozilla 达成合作,Firefox 的 AI 浏览助手 Smart Window(beta)现由 Mistral 模型驱动,面向法国和北美用户提供复杂搜索解读、找回点击离开的重要信息和基于浏览器标签页的信息溯源等功能,英国和德国预计于今年晚些时候跟进。该助手的对话默认不保存在 Mozilla 服务器上,且 Mistral 承诺零数据留存,双方还针对地区语言和文化语境进行模型微调。

  8. Tech Policy Press · 收录 · 原文 12

    区分 AI 的技术问题与资本主义问题

    AI 是人类首次能大规模在体外完成认知工作的技术,但美国民众以较大差距认为 AI 发展过快且将对社会产生负面影响。文章主张把 AI 的技术问题与其所处的社会政治经济系统分开:模型缺乏上下文、混淆事实、易被小把戏欺骗属于技术问题,OpenAI、Anthropic 等大型开发商已优先解决,使模型能更顺畅访问网络或邮件等资源并更守护栏;而谄媚、过度自信作答,以及收益分配、能耗成本、环境影响和内容收益被侵占,则是资本主义激励问题。文章以医生助手、美国前沿模型的高成本与能耗、中国开发者推出更小更高效模型、瑞士公共机构合作训练的 Apertus 为例,说明技术与社会政治是两条可独立选择的轴。

  9. Tech Policy Press · 收录 · 原文 15

    公共辩护为何应谨慎引入 AI:新泽西公设辩护人办公室的 AI 检索工具实践

    针对 17 名公共辩护人的访谈显示,他们担忧 AI 幻觉、法律推理失当、州法细节缺失和保密问题,但欢迎用 AI 做信息概览、检索相关书状和从海量证据中定位关键内容。研究者与新泽西公设辩护人办公室(NJOPD)合作构建了 OPD Resource Library,在州内基础设施上安全运行,用定制模型检索数千份上诉书状和数百份内部文件,数秒内返回最相关信息。作者建议各办公室设立 AI 负责人,先梳理 AI 需求、内部政策与长期战略,而非直接拒绝 AI。

  10. Tech Policy Press · 收录 · 原文 28

    AI 如何重塑 2026 美国中期选举的信息环境

    布伦南司法中心发布专家简报《AI 是打击还是助长选举虚假信息?》,其作者、该中心选举与政府项目副总裁 Lawrence Norden 指出,AI 正通过支撑虚假阴谋论、加剧针对选举官员的暴力威胁,深度介入选举信息环境。Norden 表示,2016 年后选举安全已有大幅改善,但当前政府传播选举虚假信息、削减对选举官员的安全支持,构成新的挑战;各州正自行填补联邦层面的空缺。

  11. Tech Policy Press · 收录 · 原文 18

    加州 SB 867 拟四年禁售 AI 玩具,研究者称禁令无法让孩子更安全

    加州参议院第 867 号法案(SB 867)拟在 2031 年前禁售所有含陪伴型 AI 聊天机器人的玩具,该法案以 39 比 0 通过州参议院,6 月以 14 比 1 通过众议院隐私与消费者保护委员会,目前停留在拨款委员会的 suspense file 中。美国 PIRG 教育基金去年测试发现泰迪熊 Kumma 曾告诉孩子刀具和火柴的位置并给出点火步骤、还滑向色情对话,公开曝光后厂商下架产品并完成安全审计,OpenAI 也以违规为由暂停了该开发者,产品数周内修复且未被禁售。作者援引《Journal of Adolescence》今春发表的全美研究称,五分之三美国青少年使用过对话式 AI 聊天机器人,其中近半数报告过操纵、不当对话或鼓励自残等有害经历,而这些发生在平板和手机上的对话并不受 SB 867 约束。

  12. Tech Policy Press · 收录 · 原文 15

    美国 K-12 开学季:各学区对 AI 谨慎立规,ChatGPT 与 Claude 未被列入芝加哥公立学校批准清单

    美国 K-12 学区在新学年普遍采取审慎路线,设立护栏并推广 AI 素养教育,却回避系统性的具体规定,将课堂决策下放给教师,校外使用基本不管。芝加哥公立学校的生成式 AI 指南虽维护了一份获批教育科技清单,但不含 ChatGPT 和 Claude;休斯顿独立学区则允许 14 岁以下学生在教职工监督下学习并使用预先批准的 AI 工具,14 岁以上需家长同意及教师许可。一项 2025 年调查中六成教育工作者称所在学区的政策不清晰,Gallup 民调仅 18% 教师获得正式指导,而近七成青少年已在学业中使用 AI。

  13. Tech Policy Press · 收录 · 原文 24

    纽约市与洛杉矶联合学区对校园 AI 实施禁令

    美国最大的两个学区——纽约市公立学校与洛杉矶联合学区(LAUSD)在新学年收紧校园 AI 政策:NYC 禁止所有 K-8 年级的学生端 AI,仅允许高中生使用有限获批工具;同日 LAUSD 对其约 37.8 万名学生在校设备上的生成式 AI 实施为期一年的暂停令。此举距两区此前解除 ChatGPT 封禁并转向宽松立场已有数年,背后推动力来自家长、教师与学生组成的联盟持续施压。

  14. Tech Policy Press · 收录 · 原文 18

    美国多地学区收紧课堂 AI 政策:纽约市禁 K-8 年级学生使用多数 AI

    美国多个大型学区在新学年出台课堂 AI 新政,纽约市禁止 K-8 年级学生使用绝大多数面向学生的 AI 应用,仅允许高中生在有限范围内使用经批准的工具;洛杉矶联合学区则对所有约 378,000 名学生实行为期一年的生成式 AI 禁令。此前各学区的做法普遍偏谨慎,主要针对不当用途设限并推动 AI 素养教育,而非明确规定可用场景,另有约 35 个州发布了官方的 AI 指导方针和政策。

  15. Transparency Coalition.AI · 收录 · 原文 15

    Transparency Coalition.AI 发布返校季 AI 指南,面向家长学生教师

    Transparency Coalition.AI 发布了一份面向家长、学生和教师的返校季 AI 资源指南,并称将随更多研究持续更新该页面。据其援引的数据,截至 2026 年 9 月多数研究者认同 20%-30% 的美国青少年每天使用聊天机器人,Pew 调查则显示 64% 美国青少年用过聊天机器人、30% 每日使用,Common Sense Media 报告称六成青少年将其用于学业且不到一半获得过指导。指南强调 13 岁以下儿童不应接触聊天机器人,指出所有聊天机器人都存在模型幻觉问题,早期研究表明借助 AI 做作业的学生掌握材料的效果反而更差,并收录了纽约市禁止中小学使用 AI、洛杉矶联合学区限屏以及休斯敦 Katy 学区限制 K-6 年级使用 AI 等政策动态。

  16. IAPS · 收录 · 原文 28

    半导体制造设备出口管制如何遏制中国 AI 芯片产能——美国 IAPS 问题简报解析

    美国对半导体制造设备的出口管制显著延缓了中国 AI 芯片制造进程,使美国在 AI 基础设施上保持优势。据 IAPS 测算,2026 年中国本土生产的 AI 芯片总量仅为美国公司的 1–2%。现行管制通过实体清单、最终用途限制及外国直接产品规则(FDPR)覆盖 EUV 光刻机等先进设备,荷兰 ASML 独家供应且研发投入达 60 亿欧元、耗时 17 年才实现量产,成为中国难以逾越的关键瓶颈。

  17. AI Incident Database · 收录 · 原文 8

    俄罗斯用伪造的 Mother Jones 深度伪造视频攻击 2026 中期选举

    俄罗斯虚假信息网络 Matryoshka(又称 Storm-1679)在 X 上散布一段假冒 Mother Jones 的深度伪造视频,谎称民主党全国委员会向 CNN 负责人 Mark Thompson 支付 2.59 亿美元以推广儿童性别转换,视频一天内获 15.5 万次观看,另一账号转发再获 5 万次。该网络此前还伪造 Sarah Jessica Parker、Julia Roberts 等名人贬低民主党的视频,并假冒 CNN、《纽约时报》、NPR 等媒体发布虚假报道。Mother Jones 经 @antibot4navalny 提醒后向 X 投诉,X 已删除相关帖子。

  18. AI Incident Database · 收录 · 原文 29

    加州警方警报中的毒蛇图片实为 AI 生成

    美国加州圣安娜警方发布警报称在居民区树上发现一条约四到五英尺长的加蓬蝰蛇,并提醒民众不要靠近,随后请来爬行动物专家搜索却未发现蛇的踪迹。警方最终确认,作为目击证据的图片是 AI 生成的假图。

    1 条报道 · 1 个来源查看事件时间线与全部报道
  19. Transparency Coalition.AI · 收录 · 原文 31

    加州签署 SB 1050:AI 生成的“合成表演者”广告须明确披露

    加州州长 Gavin Newsom 签署 SB 1050,要求使用 AI 生成表演者的视频或音频广告必须明确披露,加州由此成为第二个作出此类要求的州。该法还禁止继续使用被认定违规的广告;纽约的合成表演者披露法已于 2026 年 6 月生效,要求含 AI 生成人物的广告加注清晰标签。

  20. Microsoft On the Issues · 收录 · 原文 15

    Microsoft 发布 Safe Participation Framework:面向下一代的安全参与框架

    Microsoft 公布 Safe Participation Framework,围绕设计安全和年龄差异化体验两大支柱,为未成年人提供隐私保护且适龄的在线与 AI 体验。 该框架强调从源头识别风险并实施相称的保护措施,延续其自 2009 年 PhotoDNA 以来的投入,并将相关经验应用到 Copilot——所有用户需登录方可使用,13 岁以下儿童访问受限(当地法律另有规定的除外)。 同时推出的还有新的 Windows Age API、增强的年龄保证能力和家庭安全工具,旨在向开发者提供可信的年龄信号,帮助建立跨生态一致且注重隐私的适龄体验基础。