全面的 AI 治理需要应对非模型收益

一篇 arXiv 立场论文提出，当能力进步越来越多由独立于基座模型进展的“非模型收益”（non-model gains）驱动时，以模型层为中心的前沿 AI 治理效力会下降。模型层范式假设模型能力主要取决于训练所用的算力和数据。论文将非模型收益形式化为三类能力增益向量：推理收益（在测试时扩展算力）、系统收益（脚手架等后训练增强）和资产收益（用受限资产增强模型），并论证这些向量加上具身、持续学习和 AI 扩散的潜在未来影响，可能削弱主要依赖部署前评估与缓解的风险管理策略。作者概述了超越模型层的治理路径，包括系统治理、实体治理、智能体治理和云治理，并强调社会韧性可作为这些治理层的补充。