跳到正文
原文
RAND·本站收录 · 原文发表

RAND 报告:AGI 竞赛中的相互克制取决于国内 AI 监管与核查能力

Can AGI Rivals Hold Back? Verification, Domestic Oversight, and the Conditions for Mutual Restraint

AI 导读

RAND 研究人员用两阶段博弈模型分析 AGI 竞赛中对手国能否维持相互克制,结论是没有国内 AI 监管就无法可信承诺克制。模型第一阶段由各国决定对本国 AI 产业施加超出政策要求的额外监管,第二阶段各国反复互动直至 AGI 到来,每期选择遵守、公开竞赛或暗中违约。报告指出,国内监管(算力登记、许可、设施审计、事件报告)构成核查的证据基础,应被视为安全架构而非单纯监管;对灾难的共同担忧只能部分自我威慑,针对抢先抵达 AGI 的纯位置性违约仍需检测手段。随着对手认为 AGI 临近,可用于惩罚违约者的剩余时间缩短,核查效力下降,只有与后 AGI 结果挂钩的工具仍可能起威慑作用。报告建议投资不暴露敏感信息的核查技术(如机密计算与可信硬件),并考虑通过技术援助或共享监测平台降低对手建设监管能力的成本。

阅读原文rand.org