全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态Failure-First
欧盟 AI Act 第 50 条透明度义务生效，高风险义务延至 2027–2028 年
欧盟 AI Act 第 50 条透明度义务自 2026 年 8 月 2 日起生效，欧盟境内相关 AI 系统的提供方和部署方须告知用户正在与 AI 交互、标注 AI 生成或篡改内容、告知受情绪识别或生物特征分类系统影响的人员，并披露深度伪造和 AI 生成文本。
- 动态CAIS
加州 SB-53 通过州议会，将前沿 AI 透明度要求送交州长签署
加州州议会于 9 月 17 日通过 SB-53（《前沿人工智能透明度法案》），并将其送交州长 Newsom，签署截止日期为 10 月 12 日；若签署生效，加州将成为美国首个监管灾难性风险的州。该法案是去年被否决的 SB-1047 的弱化续作，采纳了州长 AI 前沿模型政策工作组 6 月报告的建议，将灾难性风险定义为单次事件造成 50 人以上死亡或重伤、或超过 10 亿美元财产损失，涵盖协助制造 CBRN 武器、自主网络攻击与失控等情形。法案要求前沿开发者发布并每年更新前沿 AI 框架、为每个新模型发布透明度报告、每 3 个月向加州应急服务办公室（OES）提交内部使用的灾难性风险评估，并禁止就相关风险作虚假陈述。
- 动态CAIS
AI Safety Newsletter #64：参议院 AI 责任法案与新的 AGI 定义
美国参议员 Dick Durbin 与 Josh Hawley 提出 AI LEAD Act，为受 AI 系统伤害者建立联邦起诉路径，将产品责任适用于 AI 系统。法案规定，若企业在设计、说明或警示上未尽合理注意义务，违反自身提供的保证，或销售存在缺陷、可致不合理危险误用的系统，则需承担责任；部署者若大幅修改或危险误用系统同样担责。法案还禁止企业通过消费者合同限制责任，要求外国 AI 开发者在美国市场销售前登记送达代理人，并允许各州制定更严格的安全立法。
- 动态CAIS
AI Safety Newsletter #67：特朗普签署阻止州级 AI 立法的行政令
美国特朗普总统签署行政令，试图阻止各州自行监管 AI，通过联邦资金与执法手段评估、挑战并限制州级法律，并以一套尚未明确的联邦框架取而代之。该行政令无法单方面推翻州法，而是指示联邦机构依据现行法律解释发起挑战或扣留相关联邦资金：司法部长将组建工作组挑战其认为繁重的州级 AI 法律，商务部长将认定违规州不具备联邦宽带资金资格，FCC 将研究是否要求 AI 开发者向监管者提供标准化模型信息，FTC 需就现行反不公平或欺骗性商业行为法如何适用于 AI 模型发布指引。白宫 AI 与科学顾问将起草一部国家 AI 法，以覆盖与联邦政策冲突的州级规则，同时保留儿童安全、AI 基础设施、州政府自用 AI 等领域的州法。
- 动态CAIS
AI 安全通讯#69：战争部认定 Anthropic 构成国家安全供应链风险并取消合同
美国战争部于周四（3 月 5 日）宣布将 Anthropic 认定为"供应链风险"，意味着其产品不能被该部门或在任何国防合约中使用，此前双方围绕自主武器和美国民众监控问题发生争执，Anthropic 拒绝了战争部的请求。这场争端始于合同谈判：特朗普总统曾表示美国政府会因该公司对其 AI 用途的限制而取消与 Anthropic 的合同，五角大楼希望 Claude 可用于"任何合法用途"，而 Anthropic 坚持两项限制——完全自主武器与美国国内大规模监控。
- 动态CAIS
AI Safety Newsletter #70：AI 裁员潮与自动化战争
多家大型软件公司在 AI 提效背景下计划裁减数万人，Meta 拟裁逾 15,000 人约占其员工总数 20%，Atlassian 削减 10%（约 1,600 人）、Block 减少 40%（约 4,000 人）。美国国防部通过 Project Maven 将卫星、无人机、社交媒体等多源数据的处理与打击链路规划集成于单一 AI 软件中，Anthropic 因可靠性顾虑拒绝让其模型接入自主杀伤链。一封跨党派公开信呼吁限制 AI 开发与使用，提出避免权力集中、保护人类体验和维护人的能动性与自由三项主张。
- 动态CAIS
AISN #71：针对 AI 软件基础设施的网络攻击与美国数据中心禁令法案
朝鲜关联黑客近期针对 AI 产业软件基础设施发动大规模网络攻击，从 OpenAI 和 Anthropic 的训练数据供应商 Mercor 窃取并拍卖私人及生物特征数据，还向开发者电脑植入后门，据称 Mercor 已支付赎金。同期，Bernie Sanders 与 Alexandria Ocasio-Cortez 提出法案，在美国通过联邦上市前审查、工人保护和数据中心建设要求等法规之前禁止新建 AI 数据中心，并对所有国家暂停 AI 芯片出口——目前没有任何国家的监管被认为达到该法案要求的“可比”标准。
- 动态CAIS
AISN #73：AI 安全进入政治主流，马斯克诉 OpenAI 案败诉
美中领导人在北京会晤讨论 AI 安全问题，特朗普称双方谈及可能合作建立护栏，中国外交部随后确认同意与美国开展对话。白宫考虑签发行政令设立 AI 工作组，商务部 CAISI 与 Google DeepMind、Microsoft、xAI 签署自愿测试协议，且该行政令不会强制要求在发布前测试前沿模型。《纽约时报》报道称政府此前的放任立场因 Claude Mythos 加速复杂网络攻击的能力以及 ChatGPT-5.5-Cyber 展现类似能力而发生转变。
- 动态CAIS
教皇利奥十四世通谕《Magnifica Humanitas》谈 AI 伦理与人类关系
教皇利奥十四世上周发布通谕《Magnifica Humanitas》，警告 AI 可能带来失业、自主武器、虚假信息和人际关系干扰等问题，并呼吁广泛参与讨论 AI 应对齐的道德价值，同时强调应负责任地善用而非拒绝该技术。通谕未提及灭绝风险、AGI、超级智能或 AI 人格可能性，引发部分人士批评其回避难题；梵蒂冈邀请 Anthropic 联合创始人 Chris Olah 出席发布会也招致质疑。另有有效利他主义者整理证据称通谕措辞或经 AI 协助撰写，若属实则与其劝诫神父勿用 AI 布道相矛盾。
- 动态Garrison Lovely
OpenAI 宣布保留非营利控制权，作者给出四点预测
OpenAI 宣布将继续由非营利组织监督和控制公司，此前其剥离非营利控制的计划曾遭到 Elon Musk、公民社会领袖、前员工和法律学者的反对。非营利董事会主席 Bret Taylor 在博客中表示，公司过去和今后都由该非营利组织监督和控制，这一决定是在与加州和特拉华州总检察长讨论后作出的。CEO Sam Altman 在随附信件中提出转向“人人持股的常规资本结构”，作者认为这暗示投资者利润上限将被修改或取消。文章还指出，OpenAI 未明确回应此前两轮融资中投资者可追回数百亿美元的条款，也未说明非营利组织将获得多少补偿。
- 动态Garrison Lovely
独家：OpenAI 承认其非营利董事会权力将大幅缩水
Obsolete 获取了 OpenAI 律师 5 月 15 日致加州总检察长 Rob Bonta 的 13 页信函，其中 OpenAI 为其营利实体重组方案作法律辩护。信函承认非营利董事会将有权解雇 PBC 董事，但非营利组织将以现有经济利益换取新 PBC 的股权，并获得对 PBC 知识产权、技术和人员的访问权，而非直接拥有或控制底层技术。核心变化在于法律义务：现行 LLC 运营协议规定公司对使命的责任优先于盈利，而新结构下 PBC 董事只需在股东利益与公共利益之间取得平衡。信函近二十次提及 Elon Musk，将批评者与 Musk 的商业利益挂钩，同时私下向加州非营利联盟成员发出合作邀请。
- 动态Garrison Lovely
Anthropic 被指在 Claude 4 Opus 发布中悄然回撤安全承诺
Anthropic 发布 Claude 4 Opus 时将其列为首个触发 ASL-3 防护的模型，但 5 月 14 日更新的 RSP 未按 2023 年承诺公开定义 ASL-4。2023 年 9 月的 RSP 曾承诺在达到 ASL-3 前定义 ASL-4，Anthropic 发言人称该版本已过时，并指向 2024 年 10 月的修订，称 ASL 现在对应逐级加严的安全措施而非预先定义未来标准。TIME 报道称安全评估发现 Claude 4 Opus 可能帮助新手制造生物武器，首席科学家 Jared Kaplan 表示建模显示合成类似 COVID 或更危险流感毒株或许可行。
- 动态Garrison Lovely
美国参议院以 99 比 1 删除十年州级 AI 监管禁令
美国参议院以 99 比 1 的投票结果，从预算协调法案中删除了禁止各州监管 AI 十年的条款。该条款原本规定，接受 5 亿美元新 BEAD 宽带拨款的州，可能失去 425 亿美元 BEAD 资金份额，其 AI 法律也将失效。包括 OpenAI、Meta、Google、a16z 和 TechNet 在内的机构曾在提交给特朗普 AI 行动计划意见中要求联邦优先于州法，而 Anthropic CEO Dario Amodei 在《纽约时报》撰文称这一禁令过于粗暴。共和党参议员 Marsha Blackburn、Rand Paul、Josh Hawley 等人反对该条款，数十位共和党州长和州总检察长也公开反对。
- 动态Garrison Lovely
OpenAI 非营利时代终结：两州总检察长有条件放行转营利重组
特拉华州与加州总检察长对 OpenAI 转为营利性公益公司（PBC）的重组方案有条件放行，微软也以调整合作条款和获得新 PBC 1350 亿美元股权为条件表示同意。总检察长提出的二十条要求包括：非营利组织独家拥有任免 PBC 董事的权力；PBC 董事会在安全与安保事务上只能考虑使命；由 Zico Kolter 领导的 Safety and Security Committee 有权要求缓解措施乃至叫停新模型发布；非营利董事每半年、PBC 高管每季度向总检察长办公室汇报；限制非营利治理权需提前 21 天通知。
- 动态Miles Brundage
Time's Up for AI Policy：超级人类级 AI 临近，未来数月政策决定至关重要
Miles Brundage 发文警告，超越几乎所有认知领域的超级人类 AI 几乎必然在未来几年内建成并部署，而接下来几个月的政策抉择将决定其治理方式。他以当日发布的 o3 为例指出超人类编程与数学能力的到来比许多人预期更快，社会尚未消化 Claude 3.5 Sonnet、o1 及即将推出的更大模型的冲击。特朗普政府首批行动、下一届美国国会立法、英国 AI 法案以及欧盟《通用人工智能行为准则》是关键节点，呼吁有意推动 AI 治理的人立即行动而非规划数年后产生影响。 --- **说明**： - 标题保留了原作者意图中的紧迫感（"Time's Up"→"关键时刻/迫在眉睫"语义由副题承载），并按规则补入核心议题主体。
- 动态Miles Brundage
Miles Brundage 提出 GAAIO：用独立 AI 监察员验证公司与国家的 AI 声明
Miles Brundage 提出设立“全球 AI 监察员协会”（GAAIO），由独立监察员以接近公司或政府机构内部员工的访问权限，核实企业与国家对 AI 的声明，如是否认真红队测试、申报模型是否为最强模型、部署模型是否与系统卡一致等。该组织服务完全自愿、结论无强制力，也不主动要求企业作出特定声明。作者认为这一人类主导机制可先于自动化审计落地，为后续更自动化的验证方案奠定基础，但在国家互不信任和军事 AI 等敏感场景作用有限。
- 动态Miles Brundage
Miles Brundage 为何将前沿 AI 公司的安全置于首位
Miles Brundage 撰文论证前沿 AI 公司的安全应比安全性更为紧迫。他指出，独立专家基于对前沿 AI 公司员工的访谈估计，这些企业距离抵御中俄等国资源充足的攻击尚有数年差距，且一年内 AI 系统能力还会大幅提升，现有竞争编码能力已达人类前几百名的水平。由于投资安全的成本由公司独自承担、投入不足的成本却由整个社会分担，加上单方面加强安全可能拖慢研发进度并丧失市场优势，这一问题不会自动解决。他还强调，芯片和数据中心的安全建设以及安全许可审批所需的时间超过模型迭代间隔，因此无法留待后期自动化处理。
- 动态Miles Brundage
Miles Brundage 对《通用目的 AI 行为准则》第二稿的反馈
Miles Brundage 针对欧盟《通用目的 AI 行为准则》（COP）第二稿发表反馈意见，认为草稿正朝更具体、更连贯的方向改进，但仍存在大量未竟事项。他指出起草工作组的推进节奏过于仓促，问题根源在于欧洲议会启动该流程过晚而非主席团本身。对于具有系统性风险的模型的合规条款，他认为大型企业大体能够遵守，并强调若合规低效或错配风险，可能适得其反地损害企业内部的安全声誉。
- 动态Helen Toner
Helen Toner 借《The Future and Its Enemies》提出安全超级智能的动态主义愿景
Helen Toner 借用 Virginia Postrel 1998 年著作《The Future and Its Enemies》，主张用动态主义（dynamism）而非停滞主义（stasism）来审视通往超级智能道路上的 AI 安全问题。她指出 AI 安全界部分政策带有明显停滞主义色彩——例如偏好少数领先 AI 项目乃至仅存一家、以及通过防扩散减少接触危险技术的途径。但她强调 AI 安全并非天然属于停滞主义阵营，亲技术与反技术、拥抱风险与规避风险的二分并不贴合这场争论的真实分歧。
- 动态Miles Brundage
DeepSeek R1 的真正启示：规模加人才即可逼近超人类 AI
DeepSeek 发布的 R1 已成为最强开源 AI 模型，其意义在于延续了 2018 年 GPT-2 以来的规律——只要算力与数据构成的规模和数十到数百名顶尖科学家工程师的技能这两项要素齐备，就能造出比肩乃至超越人类的 AI，且成本逐月下降。 该模式先在预测下一个词的范式下通过反复训练神经网络习得语法与世界知识，去年起又经长链式推理扩展到数学与编程等领域，o1 与 R1 借此学会分解问题并自查。 后来者常能以远低于先行者的成本复制同等性能，全球科学界公开的技巧使 OpenAI API 价格累计降幅超过 90%，因此美国无法长期垄断超级 AI 能力，GPU 出口管制虽必要却挡不住能力的持续扩散。
- 动态Helen Toner
OpenAI 向阿联酋出口算力并称其植根民主价值，引发质疑
Helen Toner 批评 OpenAI 借「OpenAI for Countries」计划将大规模 AI 数据中心落地阿联酋，却宣称该合作「植根于民主价值观」。她援引 Freedom House 2024 年报告指出阿联酋得分仅 18/100，低于海地、津巴布韦和伊拉克，且禁止政党、政府垄断权力、打压异见。她反驳了两类辩护逻辑——美国 AI 天然承载民主价值、帮助美国赢得 AI 竞赛即有利于民主——认为这并非对局势的良好总结。
- 动态Miles Brundage
Miles Brundage 评美国副总统 Vance 在 AI Action Summit 演讲中的 AI 政策信号
Miles Brundage 发文点评美国副总统 Vance 在 AI Action Summit 上的演讲，指出其释放的美国 AI 政策议程中既有令人鼓舞之处也有隐忧。Vance 强调需保护 AI 技术与半导体免受窃取和滥用，Brundage 解读这指向模型权重及算法机密的安全防护，并希望该议题形成两党共识。他还推测 Vance 主张轻量化且聚焦极端风险、避免被大型科技企业俘获的安全监管路径，同时注意到其在 AI 与经济就业关系上偏向经济民粹主义立场而非科技右翼。
- 动态Miles Brundage
Miles Brundage 公布今年不会亲自推进的多项重要 AI 议题
Miles Brundage 列出自己离开 OpenAI 后今年不会亲身投入的重要 AI 方向，涵盖让人直观感受到 AGI 紧迫性、AI 智能体的基础设施与社会规范及法律责任、AI 的经济冲击以及欧盟《人工智能法案》落地谈判。他认为自己在这些问题上的技能更适合处理其他问题，因此选择回避而非放弃关注，并可能偶尔向他人提供建议。
- 动态Miles Brundage
Miles Brundage 对话 Dean Ball：私人治理 AI 提案评论开放讨论
Miles Brundage 就 Dean Ball 最新博文中提出的 AI“私人治理”（private governance）方案展开公开对话，因其他写作事务繁忙，他以 80/20 方式在 Google Doc 版博文上留下若干评注，Dean 回复部分意见，双方将这段未完对话公之于众并邀请任何人评论。该文档中的讨论并未得出结论，两人也未达成一致立场，目的是引导公众批判性地审视这一提案及私人治理思路。