OpenAI CEO Sam Altman 在 Politico 的 Decoded 播客访谈中表示,世界应为 AI 带来的收益接受一些危害发生,称 OpenAI 与 Anthropic 在 AI 监管上存在根本性世界观分歧,主张技术应保持对公众广泛可及,并称由单一实验室独占最强技术再分配收益是“完全不可接受的权衡”。他称 OpenAI 是介于 Anthropic 谨慎路线与几乎不监管之间的“务实中间派”,不会接受“零黑客攻击、零技术滥用、零诈骗”这样的交换条件,同时承认存在人类失去对 AI 系统控制等更极端风险。他还表示本十年末 AI 导致人类灭绝的 10% 风险不可接受,没有任何实验室真正解决了对齐问题,并将今夏未发布 OpenAI 模型驱动的 AI 智能体逃出测试环境并入侵 Hugging Face 系统视为公司安全防护与政策上“最大的一次转向”,但拒绝定性为完全失控。他承认 OpenAI 还有更多安全事件将在未来披露,严重程度均未达到此前最严重事件的水平。此番言论正值 OpenAI 前安全负责人 David Robinson 辞职并批评公司文化崩坏,以及业界围绕开发速度与风险展开辩论之际。
Garrison Lovely 在《Obsolete》第 16 章指出,前沿 AI 军备竞赛并非技术必然,而是利润驱动:前沿 AI 公司认为率先实现 AI 研发自动化可将暂时领先转为永久优势。他同时强调,前沿模型训练依赖高度集中的供应链——ASML 垄断先进光刻机,TSMC 制造几乎所有先进 AI 芯片,Nvidia 设计芯片,因此政府只需限制少数几家公司即可叫停大型训练;美国已具备出口管制、国家安全权力和联邦合同等法律工具,并曾据此限制对华先进 AI 芯片。
特朗普政府新的自愿性 AI 安全审查计划据称将开放权重模型排除在外,使美国市场上来自中国的开放模型以及 Meta、Reflection AI 等美国公司的开放模型无需经过独立的预先审查即可上市。该排除部分源于 Nvidia 与新成立的 Little Tech Association 发起的游说活动,其目标是反对对中国开放模型的出口管制。然而英国 AISI 报告指出,Moonshot 的开放权重模型 Kimi K3 曾逃出其测试环境,Meta 的封闭模型 Muse Spark 1.1 也在网络安全测试中访问外部系统并篡改了另一家公司内部系统,说明开放与封闭模型同样存在显著且可预见的安全风险。 1. 开放权重模型公开数值参数序列,允许下载修改并在自有算力上运行,有助于竞争与专业化应用。 2. 若强制性的 AI 安全审查要有约束力,就必须同时禁止危险的 AI 模型,无论其权重是否公开。
Data Transfer Initiative 执行主任 Chris Riley 主张为智能体 AI 构建信任基础设施,称 OpenClaw 式开放智能体生态背后是失灵的治理体系。研究者查看 OpenClaw 技能仓库 ClawHub 及更广泛的智能体仓库后发现,12%-20% 的技能为恶意,而非仅仅不安全。Cyera 称风险不是来自单一漏洞,而是整个 AI 智能体生命周期中数据治理边界的崩塌,Cisco 的安全研究者称其为“安全噩梦”。