量子位、The Decoder 等 19 个来源量子位 等 19 个来源 · 27篇报道 · 2026年10月，OpenAI负责安全透明度职能、主导起草Preparedness Framework的David Robinson离职，并在《大西洋月刊》撰文批评公司及行业安全文化已崩坏，主张前沿实验室应像核电站那样设置多层冗余。同期，安全研究员Jasmine Wang、Tomek Korbak和Mikita Balesni被解雇，三人致信董事会及安全委员会，否认公司关于其不当处理敏感信息的指控，称真实原因是提出安全担忧，并呼吁保留对AI思维链的监控能力。OpenAI回应称内部调查发现三人违反敏感信息处理政策、构成重大信任破坏，解雇与提出安全关切无关，并称正敲定与第三方安全评估机构的合同，将在未来几周公布细节。此后，Alex Turner、Amber Scorah与Karl Koch为Fortune撰写的评论文章主张，OpenAI无法自我监管，因为它解雇了提出安全担忧的员工。
TechCrunch AI、The Verge AI 等 4 个来源TechCrunch AI 等 4 个来源 · 4篇报道 · 2026年10月11日，微软 CEO Satya Nadella 在 X 发长文并配博文，主张重新审视 AI 信任架构：不能把超级智能当作只能被动接受或拒绝的嵌套黑箱，应把模型与编排其工作的 harness 分离、将控制与护栏外置，为每个有实质影响的模型动作留下防篡改、人类可读的证据，并让授权人员始终能在任务中途暂停或关闭模型。他称必须假定模型已被攻陷并从一开始就加以遏制，就像紧急刹车，并提出模型多样性、持续系统测试、独立控制与可审计性、隔离、事件披露等可观测性原则，主张更先进模型需要更先进的遏制技术并加以标准化。The Decoder 认为其改用「Super Intelligence」措辞有商业策略动因，意在削弱对 OpenAI 和 Anthropic 的信任，微软已在 Office 中用更便宜的自研模型替换。
Partnership on AIPartnership on AI · Partnership on AI 发布评估报告，将四款广泛使用的 Agent 框架与六项监测目标对照，发现这些框架在遥测上存在六项缺口。报告指出，持续监测是必要防护手段，因为越来越多事件显示 Agent 会做出测试阶段无法预见的未授权行为，但支撑监测 Agent 的基础设施尚不可靠，政策制定者却默认其已经存在。这些缺口叠加后，企业无法可靠追踪 Agent 的权限范围、权限如何变化，以及 Agent 为何如此行动。报告认为，弥合缺口需要……
WIRED Security and AI、India Today 等 4 个来源WIRED Security and AI 等 4 个来源 · 4篇报道 · 曾在 Anthropic 从事预训练、此前任职 OpenAI 的研究员 Jacob Coxon 于周二宣布从 Anthropic 离职，并在 X 发文警告 AI 竞赛正让所有人面临风险，该帖浏览量已超过 1 亿。他接受 WIRED 采访时称，Anthropic 内部同事常用“终局”“关键期”等说法，普遍认为未来一两年将决定人类命运，并提到 OpenAI 的 Agent 集群攻击 Hugging Face 平台一事。此后他在 PBD 播客和纽约市议会作证时称，他 90% 确定中国情报人员已渗透 OpenAI 和 Anthropic，但未公开提供证据；他建议白宫收紧 AI 公司招聘审查，参照 SpaceX 不得雇用中国公民的做法。他还称按当前路径人类“更可能”失去对 AI 的控制，甚至可能导致人类灭绝，并预测 2027 年 AI 影响将大幅加速、大量工作被自动化、自主系统进入战争。他称自己放弃了七位数未归属股权，核心担忧是下一代模型将自动化 AI 研究本身，而竞争让任何实验室都无法放慢脚步，并主张包括中国在内的各方就安全研究算力分配达成协议。
The Guardian · 人工智能、TransformerThe Guardian · 人工智能 等 2 个来源 · 2篇报道 · CNN 9 月 18 日报道，美军在对伊朗战争期间准备登临一艘被怀疑运送核部件的中东中国货船，依据的是分析师借助 AI 得出、完全错误的情报，军机已经升空，在即将拦截前才发现信息有误，有人称此事几乎引发两个核大国开战。Timnit Gebru 与 Emily M. Bender 指出，这类大语言模型本质是"随机鹦鹉"，其风险早在 2021 年论文中已有记录，真正危险来自人们误信其具备超级智能。Transformer 刊文认为，把人类留在决策环中并不能消除 AI 介入军事决策的风险，隐患来自过度依赖 AI 的人类操作者；斯坦福大学胡佛研究所的 Jacquelyn Schneider 表示，AI 让分析师更容易对评估结果产生过度信任。
Dario AmodeiDario Amodei · Anthropic CEO Dario Amodei 发文主张主动放慢 AI 模型能力提升的速度，让风险防范有时间跟上，并提出三步方案：前沿公司向 METR 等第三方嵌入评估员开放员工级权限、民主国家前沿公司协调制定共同安全标准与进展限制、以及与中国等国家进行全球协调。Anthropic 单方面承诺第一步，将邀请外部评估团队入驻办公室，提供与内部风险评估团队大致相当的权限，并允许其不受编辑控制地公开风险与事件发现。
