跳到正文
原文
arXiv:AI 治理与政策· arXiv:2611.00465· Lily Stelling, Jacob Charnock, Kevin L. Wei, David Krueger·本站收录· 原文发表

评测型 AI 治理的潜力与局限:来自专家访谈的证据

The Promises and Limitations of Evaluation-Based AI Governance: Evidence from Expert Interviews

AI 导读

研究者通过 37 场半结构化专家访谈,重建了前沿 AI 评测减少社会层面风险的作用机制,并指出评测型治理可能存在根本性缺口。访谈归纳出三条路径:让决策者与公众具体认识风险(37 场中 18 场提及)、作为治理承诺与监管的依据(18 场)、激励 AI 公司内部形成更好的风险文化(16 场)。这些路径依赖参与者自己也存疑的共同假设,主要挑战按出现频率依次为模型能力提升后评测结果信息量下降(21 场)、评测范式可能固有的测量局限(18 场)、无法保证公司或政府会依据结果行动(16 场),以及 AI 公司对评测设计、披露和回应保留的控制权与裁量空间(12 场)。另有参与者指出,评测型治理可能适得其反,成为开发者持续提升能力的许可结构(4 场)。

阅读原文Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society