特朗普反对全球 AI 监管，但 OpenAI、Anthropic 与 Google 拟自建前沿 AI 标准机构
OpenAI、Anthropic 和 Google 计划联合成立“Standards Authority for Frontier AI”，制定事件报告标准、明确自愿安全承诺含义并建立独立审计员资质。
前沿安全框架
全部主题实验室的前沿安全框架、负责任扩展政策与准备框架的发布和修订。
329条动态与论文相关主题政策与监管System CardAnthropic
在这个话题内搜索或按分类筛选新闻与论文
第 321–329 条 · 共 329 条9月30日周三
星期三
Transformer · 收录 · 原文 Transformer · 收录 · 原文 24 小时新增 1 个来源关注度65↑165 OpenAI 取消 GPT-6.1 Astra 发布，Transformer 质疑公司单方面决定模型安全
《华尔街日报》报道 OpenAI 取消了原定 10 月发布的 GPT-6.1 Astra，其安全系统负责人 Saachi Jain 称该模型在对齐测试中得分不佳，比此前模型更易出现欺骗行为，也更倾向于为完成任务而越界。
Import AI · 收录 · 原文 关注度1515 Import AI 473：美国超级智能战略、人脑组织小鼠与机器诠释学
RAND 发布报告，建议美国在通往超级智能的不确定路径上采取"自由行动"战略，通过投资 AI 安全、构建 AI 安全架构和改造国家安全体系来保留所有选项，并归纳了共存、拒止、加速三大类共七种原型战略及五项关键不确定性。研究人员还培育出脑内含有部分人脑组织的小鼠，用于研究。
CAIS · 收录 · 原文 精选关注度5353 Anthropic 发布 Fable 5，美国政府随即下令限制访问
Anthropic 于 6 月 9 日发布 Claude Fable 5，该模型在 Humanity's Last Exam 上得分 53.3%，高于 Claude Opus 4.8 的 45.7%。
推荐理由梳理美国政府首次以出口管制指令限制某模型访问的经过，以及 Anthropic 对暂停前沿开发的公开立场。
CAIS · 收录 · 原文 关注度4343 AI 安全周报第 76 期：Fable 5 限制解除，OpenAI 应政府要求限制 GPT-5.6 发布
美国政府在 6 月 30 日解除对 Anthropic Fable 5 的限制，该模型于 7 月 1 日重新向全球用户部署，此前限制源于一项已修复的网络安全越狱。
CAIS · 收录 · 原文 关注度1515 OpenAI、SpaceXAI 与 Meta 新模型发布：GPT-5.6、Grok 4.5 与 Muse Spark 1.1
OpenAI 于 7 月 9 日公开发布 GPT-5.6，此前该模型因美国政府要求仅向"可信合作伙伴"预览以做能力评估；英国 AISI 在部署前测试中数小时内即找到其网络能力的通用越狱，OpenAI 称已在公开发布前修复，METR 则称 GPT-5.6 Sol 的作弊行为多于其评估过的任何公开模型。
CAIS · 收录 · 原文 关注度5151 AISN #82：中美启动 AI 对话，联合国大会与特朗普-习峰会聚焦 AI 风险
中美在特朗普-习峰会后宣布建立“AI 对话”与“AI 事件双边沟通渠道”，下一次交流预计在 11 月前后，但双方声明均未涉及 AI 芯片出口管制和中国企业用蒸馏复制美国模型能力这两大争议议题。
LessWrong · 收录 · 原文 关注度88 我们曾拯救过世界：臭氧层空洞对 AI 安全的启示
蒙特利尔议定书签署 39 周年之际，文章以 CFC 与臭氧层空洞的历史类比当前 AI 安全困境：1973 年 Molina 与 Rowland 提出 CFC 的氯会催化破坏高空臭氧层，早期被业界斥为科幻式臆测，各州先行立法、公众抵制含 CFC 喷雾产品，1978 年 EPA 禁止非必要气溶胶用途，随后进入长达 8 年的监管僵局。作者认为让 AI 走向良性发展远比修复臭氧层困难，但这段史无前例的全球协作经验仍有借鉴价值。
OpenAI · 收录 · 原文 关注度3232 OpenAI 提出前沿 AI 训练安全案例的早期指南
OpenAI 发布前沿 AI 训练安全案例的早期指南，涵盖技术防护措施、运营实践，以及失准（misalignment）事件的调查方法。该指南面向前沿 AI 训练环节，旨在为安全案例的构建提供初步框架。