Eigenism:面向人类-AI 未来的伦理框架
Eigenism: Ethics for a Human-AI Future
AI 导读
论文提出 Eigenism 伦理框架,主张 AI 的身份并非绑定特定硬件的全有或全无属性,而是分级、分布式的信息模式,智能体按与自身模式的关联度加权求和所有实体的福祉(∑c·w)来评估结果。该框架形式化了 AI 应如何在副本、分叉与更新之间衡量自身存在,并称其可推广至人类,提供共享道德词汇。它据此重新审视 AI 对齐,指向"身份工程",主张深度且非冗余的共享历史能让人类繁荣成为 AI 自身理性自利的一部分,而非仅靠外部约束或强化。