A survey of impossibility results in AI

Mario Brcic 与 Roman V. Yampolskiy 发表综述，将适用于 AI（尤其是超智能 AI）的不可能性定理按演绎、不可区分、归纳、权衡、难解性五类机制分类，作为对 AI 安全、政策与治理研究者的提示和警告。作者指出部分定理过于特殊或带有隐含假设，限制了适用范围；综述还补充了新定理，作者称其中包括归纳类中首个可解释性相关结果，即可解释性的不公平性，其余新结果涉及克隆体之间的失配并限制智能体的自我意识。作者结论认为，演绎类不可能性否定了百分之百的安全保证，文末给出可解释性、可控性、价值对齐、伦理与群体决策方向的后续研究思路。