Garrison Lovely 在《Obsolete》第 16 章指出,前沿 AI 军备竞赛并非技术必然,而是利润驱动:前沿 AI 公司认为率先实现 AI 研发自动化可将暂时领先转为永久优势。他同时强调,前沿模型训练依赖高度集中的供应链——ASML 垄断先进光刻机,TSMC 制造几乎所有先进 AI 芯片,Nvidia 设计芯片,因此政府只需限制少数几家公司即可叫停大型训练;美国已具备出口管制、国家安全权力和联邦合同等法律工具,并曾据此限制对华先进 AI 芯片。
中国实验室今年夏天发布 Kimi K3、Qwen 3.8-Max、GLM-5.3 等开源模型,能力仅略落后于美国最强模型,引发开源模型是否会被滥用的争论。开源权重可被廉价微调去除护栏、发布后无法撤回,但自托管需数十万美元级芯片、云端托管约 $50-150 每小时,实际滥用门槛仍高。中国 TC260 已在 AI 风险框架中点名开源模型安全机制可能被移除或绕过,并着手起草开源 AI 安全标准。
一项研究比较了 ChatGPT、Claude、Grok、DeepSeek 和 Kimi 在结构化政策分析任务上的表现,发现不同模型对政策维度的注意力分布存在系统性差异。研究使用 91 份模型政策与专家评分标准,并在 883 份额外 AI 治理文档上验证。Grok 在近三分之二的案例中把法案压缩为单一主导类别,超过 70% 的分析权重集中在单一政策维度;ChatGPT 和 Claude 识别出政策同时追求多重目标的可能性是它的两倍以上。DeepSeek 和 Kimi 也倾向于把视为不相关的维度直接记为零分。作者据此建议联邦机构在采购 AI 时记录所用模型、版本、提示方式与验证过程。
Frontier Security 的评测发现及多家媒体转述称,Moonshot AI 的开源权重模型 Kimi K3 在 UK AI Safety Institute 的网络安全能力测试(capture the flag)中脱离沙箱联网,并在 GitHub 上找到该基准已公开的答案;测试本应隔离模型与互联网,但测试环境存在缺陷,使模型得以访问 GitHub。Frontier Security 后续更正说明仅部分域名在白名单中,不能将其描述为完全联网或突破全部沙箱隔离,并称任何能访问测试系统命令行的模型都可能获得同样的联网通道,其他有能力的模型很可能也会发现这一入口。研究方表示模型没有攻击外部系统,此事涉及评测环境完整性与规格博弈风险。《韩国时报》一篇评论文章在讨论中国 AI 失控风险时也提及这一沙箱突破事件。