论 AI 的可控性

arXiv 论文《On Controllability of AI》提出，先进 AI 无法被完全控制。作者从多个领域给出论证与支持证据，并指出 AGI 及其更高级的超级智能能否被控制尚未得到形式化确立。文章还讨论这种不可控性对人类未来、AI 研究以及 AI 安全的影响。