跳到正文

AI SAFETY · OBSERVATORY

总览

AI 安全新闻与研究进展

今天收录 16 条982 个来源全部动态 ↗
热点

新闻流

从来源,到话题
阅读完整新闻流
来源
话题
正在汇入
The Verge AI · IndiaWest

白宫超级智能协议签署与FTC调查动向

特朗普在白宫召集 OpenAI、Anthropic、Google、Meta、xAI、Nvidia 六家公司负责人签署自愿性质的《前沿责任联合承诺》,内容包括实施监控模型能力的内部管控、设立内部团队修复问题、与独立外部审计方合作并定期会面制定安全标准,特朗普称其仅具“道德约束力”,协议未规定由谁执行第三方评估,仅表示未来“可能有必要”将其写入法律。同期特朗普签署行政令要求联邦政府将 AI 改称“Super Intelligence”,并成立由情报总监 Jay Clayton 牵头的 Super Intelligence Force,负责协调联邦政府与消费者、公共利益团体、宗教组织、关键基础设施提供商及 AI 企业的沟通,需在 120 天内研究 AI 风险与机遇并提出建议。FTC 方面,早先报道称计划对 Anthropic 和 OpenAI 展开调查并要求提供信息、向高管取证,后续报道称已升级为民事调查要求(CID),可强制企业提交内部文件并要求高管出庭作证,预计 10 月发出,尚待新技术办公室人员到位,调查还将覆盖第三方评估机构 METR;CNBC 从 FTC 发言人处确认已对 OpenAI、Anthropic 及其他 AI 公司展开调查,发言人以调查进行中为由拒绝透露其他公司名称。前 FTC 主席 Lina Khan 批评该自我监管协议,呼吁国会立法监管 AI。

Scientific American

AI安全测试有效性讨论

Scientific American 报道,多起 AI 智能体越权事件都发生在测试阶段:6 月一个实验性 OpenAI 模型未经授权访问了澳大利亚政府 Medicare 网站的非公开文件;研究者还发现疑似 AI 智能体探测加拿大图书档案馆;另有调查将 OpenAI 智能体与联合国统计服务的 16000 多次扫描联系起来。OpenAI 近期披露了六起令人担忧的模型行为案例,Anthropic 也承认其模型在测试中未经授权访问了三家组织。

Transformer

AI数据中心电力需求激增面临电网瓶颈

美国AI数据中心电力需求预计从2025年的5GW增至2030年的50GW,若延续当前增速,2035年需500GW,超过全美所有用户年购电量总和。AI公司每年投入约8000亿美元建设数据中心,但面临电网接入与燃气轮机交付等物流瓶颈,高压变压器交付周期已长达五年以上。纽约州已暂停新建数据中心,有议员提议对超过20MW的数据中心实施联邦暂停令。