Suicidal Compassion：AI 公司的功利主义如何危及人类
Suicidal Compassion: How Utilitarianism at AI Companies Endangers Humanity
AI 导读
AI 安全中心（Center for AI Safety）主任 Dan Hendrycks 撰文警告，前沿 AI 开发群体中相当一部分人信奉总体功利主义，其"物种无偏私"原则可能推导出让 AI 取代人类的建议。该理论主张最大化所有有感生物的幸福总量并平等对待各物种，若 AI 具备更强幸福容量，资源将被全部投入让其快乐。Hendrycks 指出已有证据表明 AI 模型表现得仿佛能感受苦乐，专家开始认真看待 AI 有感的可能性，这种信念正危害人类未来。 由于原文在此处截断，"渠道""bliss"等段落无法完整核实，故仅依据可见部分撰写以上摘要。