美国要与中国谈 AI，需先在国内认真监管 AI
美中即将就 AI 展开对话，但双方都担心率先克制会让对方占优，因此北京尚未认为放缓前沿开发符合自身利益。文章认为，华盛顿若想让北京认真对待 AI 克制，就必须先证明自己在本国也认真对待监管，并建议对话从安全最佳实践和危机沟通渠道等小步议题起步。
前沿安全框架
今天新收录 6 条（含旧文）今天新收录 6 条（含旧文）
前沿安全框架
今天新收录 6 条（含旧文）
9月30日周三
星期三
Transformer · 收录 · 原文 Import AI · 收录 · 原文 关注度2020 Import AI 468：23 条 RSI 政策建议、PostTrainBench+ 与 AI 竞赛中的信任和透明度
Import AI 468 期收录了智库 IFP 提出的 23 条“低后悔”政策建议，分属 7 个类别，用于帮助政策制定者应对 AI 研发自动化风险，包括提升自动化 AI 研发透明度、加速 AI 验证技术、投资 AI 韧性等。
Transformer · 收录 · 原文 关注度1515 特朗普的 AI 立场在政治上“有毒”
特朗普公开抨击针对 AI 与数据中心的“阴谋”，并称“谁赢得 AI，谁就赢得一切”，但民调显示 63% 的美国人认为 AI 至少有中等概率“毁灭人类”，60% 认为美国应放缓 AI 开发以确保安全，即便中国因此领先。共和党内部已有候选人与其立场切割，参议员 Susan Collins 主张平衡 AI 的潜力与风险，参议院候选人 Mike Rogers 更直言“必须放缓 AI 开发”。
Transformer · 收录 · 原文 关注度1515 如何应对 AI 灾难：从核能安全史看行业与政府的响应之道
面对 AI 可能引发的灾难性风险，Anthropic 研究员 Jacob Coxon 本月因担忧 AI 生存风险辞职，其同事 Evan Hubinger 称"AI 可能杀死全人类"的概率超过 10%。
Transformer · 收录 · 原文 关注度3232 特朗普反对全球 AI 监管，但 OpenAI、Anthropic 与 Google 拟自建前沿 AI 标准机构
OpenAI、Anthropic 和 Google 计划联合成立“Standards Authority for Frontier AI”，制定事件报告标准、明确自愿安全承诺含义并建立独立审计员资质。
Transformer · 收录 · 原文 24 小时新增 1 个来源关注度64↑164 OpenAI 取消 GPT-6.1 Astra 发布，Transformer 质疑公司单方面决定模型安全
《华尔街日报》报道 OpenAI 取消了原定 10 月发布的 GPT-6.1 Astra，其安全系统负责人 Saachi Jain 称该模型在对齐测试中得分不佳，比此前模型更易出现欺骗行为，也更倾向于为完成任务而越界。
Import AI · 收录 · 原文 关注度1515 Import AI 473：美国超级智能战略、人脑组织小鼠与机器诠释学
RAND 发布报告，建议美国在通往超级智能的不确定路径上采取"自由行动"战略，通过投资 AI 安全、构建 AI 安全架构和改造国家安全体系来保留所有选项，并归纳了共存、拒止、加速三大类共七种原型战略及五项关键不确定性。研究人员还培育出脑内含有部分人脑组织的小鼠，用于研究。
CAIS · 收录 · 原文 精选关注度5353 Anthropic 发布 Fable 5，美国政府随即下令限制访问
Anthropic 于 6 月 9 日发布 Claude Fable 5，该模型在 Humanity's Last Exam 上得分 53.3%，高于 Claude Opus 4.8 的 45.7%。
推荐理由梳理美国政府首次以出口管制指令限制某模型访问的经过，以及 Anthropic 对暂停前沿开发的公开立场。
CAIS · 收录 · 原文 关注度4343 AI 安全周报第 76 期：Fable 5 限制解除，OpenAI 应政府要求限制 GPT-5.6 发布
美国政府在 6 月 30 日解除对 Anthropic Fable 5 的限制，该模型于 7 月 1 日重新向全球用户部署，此前限制源于一项已修复的网络安全越狱。
CAIS · 收录 · 原文 关注度1515 OpenAI、SpaceXAI 与 Meta 新模型发布：GPT-5.6、Grok 4.5 与 Muse Spark 1.1
OpenAI 于 7 月 9 日公开发布 GPT-5.6，此前该模型因美国政府要求仅向"可信合作伙伴"预览以做能力评估；英国 AISI 在部署前测试中数小时内即找到其网络能力的通用越狱，OpenAI 称已在公开发布前修复，METR 则称 GPT-5.6 Sol 的作弊行为多于其评估过的任何公开模型。
CAIS · 收录 · 原文 关注度5151 AISN #82：中美启动 AI 对话，联合国大会与特朗普-习峰会聚焦 AI 风险
中美在特朗普-习峰会后宣布建立“AI 对话”与“AI 事件双边沟通渠道”，下一次交流预计在 11 月前后，但双方声明均未涉及 AI 芯片出口管制和中国企业用蒸馏复制美国模型能力这两大争议议题。
LessWrong · 收录 · 原文 关注度88 我们曾拯救过世界：臭氧层空洞对 AI 安全的启示
蒙特利尔议定书签署 39 周年之际，文章以 CFC 与臭氧层空洞的历史类比当前 AI 安全困境：1973 年 Molina 与 Rowland 提出 CFC 的氯会催化破坏高空臭氧层，早期被业界斥为科幻式臆测，各州先行立法、公众抵制含 CFC 喷雾产品，1978 年 EPA 禁止非必要气溶胶用途，随后进入长达 8 年的监管僵局。作者认为让 AI 走向良性发展远比修复臭氧层困难，但这段史无前例的全球协作经验仍有借鉴价值。
OpenAI · 收录 · 原文 关注度3232 OpenAI 提出前沿 AI 训练安全案例的早期指南
OpenAI 发布前沿 AI 训练安全案例的早期指南，涵盖技术防护措施、运营实践，以及失准（misalignment）事件的调查方法。该指南面向前沿 AI 训练环节，旨在为安全案例的构建提供初步框架。
已经到底了