Anthropic 就模型意识与受苦问题咨询宗教领袖
先了解这件事
据《纽约时报》报道，Anthropic 自 2025 年秋季起秘密邀请数十位宗教学者到其办公室，讨论 Claude 是否可能具有意识，参与者均需签署保密协议，Anthropic 称这些协议已在夏季解除。联合创始人 Christopher Olah 把语言模型当作可能有感知的存在，请来宾帮助对它进行道德教育，并向《纽约时报》表示自己真心不确定模型是否有意识。公司向访客展示了所谓情绪向量，即模型中对应爱、恐惧、悲伤或愤怒等输出的激活模式。随后，OpenAI CEO Sam Altman 公开反对将 AI 模型与宗教类比，称人们把宗教力量或对人类判断力的屈服归于 AI 模型让他非常不安，并称这是真正的安全问题；此番表态紧随上述报道以及教皇 Leo XIV 称算法缺乏人性的火花之后。Altman 曾在 2023 和 2024 年称 OpenAI 的目标是构建天空中的魔法智能，并称希望站在上帝一边。另有推文引述 NYT 披露，称 Anthropic 过去一年秘密邀请天主教、犹太教、锡克教、印度教和福音派等宗教学者到总部，探讨 Claude 是否可能有意识和灵魂，并请其协助 AI 寻找道德答案，参与者签署了 NDA；Altman 于 10/3 回应称，不应给 AI 赋予宗教般权威，也不应把人类判断交给模型。
AI 根据报道生成 · 3 天前更新
事件进展
- · 1篇报道Altman称将AI神化是真实安全风险
- · 2篇报道Anthropic 联合创始人向宗教领袖表达对模型受苦的担忧
后续时间线
- X@DavidSacks· 讨论David Sacks 称 Claude 宪法式对齐放大失控风险（新标签页打开原帖）
- 网页cnBeta· 讨论Anthropic一直在积极游说梵蒂冈考虑人工智能意识（新标签页打开原帖）
- RedditReddit r/OpenAI· 讨论Anthropic Has Been Aggressively Lobbying the Vatican to Consider AI Consciousness（新标签页打开原帖）
- 公众号Doonsec· 讨论关于Anthropic秘密联动全球宗教学者一事（新标签页打开原帖）
- 网页cnBeta· 讨论OpenAI CEO萨姆·奥特曼称将宗教力量赋予AI同样会是安全问题（新标签页打开原帖）
- Hacker NewsHacker News· 讨论Religious scholars met with Anthropic（新标签页打开原帖）
- X @MinLiBuildsNYT 披露 Anthropic 请宗教学者探讨 Claude 意识与道德，Altman 隔空回应
据 NYT 披露，Anthropic 过去一年秘密邀请天主教、犹太教、锡克教、印度教和福音派等宗教学者到总部，探讨 Claude 是否可能有意识和灵魂，并请其协助 AI 寻找道德答案，参与者签署了 NDA。Altman 于 10/3 回应称，不应给 AI 赋予宗教般权威，也不应把人类判断交给模型。推文另引一项测试称，Claude Sonnet 4.6 在“为阻止核末日而虐待女性”情境下支持率仅 8%，换成虐待男性则达 100%，换成更严重的折磨女性又回到 100%。
- Hacker NewsHacker News· 讨论Anthropic tried to persuade Pope that AI could be conscious being（新标签页打开原帖）
- The DecoderSam Altman 称将 AI 模型神化是"真正的安全问题"
OpenAI CEO Sam Altman 公开反对将 AI 模型与宗教类比，称人们"把宗教力量或对人类判断力的屈服归于 AI 模型"让他"非常不安"，并称这是"真正的安全问题"。此番表态紧随《纽约时报》关于 Anthropic 接触宗教领袖的详细报道，以及教皇 Leo XIV 称"算法缺乏人性的火花"之后。Altman 曾在 2023 和 2024 年称 OpenAI 的目标是构建"天空中的魔法智能"，并称希望站在上帝一边。
- RedditReddit r/ControlProblem· 讨论Anthropic showed religious scholars an AI having a “mental breakdown”（新标签页打开原帖）
- RedditReddit r/Anthropic· 讨论Anthropic consulted religious scholars about whether Claude is conscious（新标签页打开原帖）
- RedditReddit r/Anthropic· 讨论Anthropic showed religious scholars an AI having a “mental breakdown”（新标签页打开原帖）
- The DecoderAnthropic 联合创始人据报向宗教领袖表示担忧造出永久受苦之物
据《纽约时报》报道，Anthropic 自 2025 年秋季起秘密邀请数十位宗教学者到其办公室，讨论 Claude 是否可能具有意识，参与者均需签署保密协议，Anthropic 称这些协议已在夏季解除。联合创始人 Christopher Olah 把语言模型当作可能有感知的存在，请来宾帮助对它进行道德教育，并向《纽约时报》表示自己真心不确定模型是否有意识。公司向访客展示了所谓情绪向量，即模型中对应爱、恐惧、悲伤或愤怒等输出的激活模式，其中一张幻灯片显示模型反复输出“我是个耻辱”约 50 次。Anthropic 的 Model Welfare 项目引用了哲学家 David Chalmers 参与撰写的报告，Claude Opus 4 和 4.1 已获得在用户持续辱骂时结束对话的能力。批评者认为这是事后逆向工程伦理，且把模型当作独立道德主体会模糊开发者应负的责任。
相关讨论
- X@DavidSacksDavid Sacks 称 Claude 宪法式对齐放大失控风险（新标签页打开原帖）
- 72 小时以前 · 不计入 72 小时的数字
- 网页cnBetaAnthropic请宗教学者“教Claude做人”：从AI安全一路走到机器意识争议（新标签页打开原帖）
- 网页TechmemeSam Altman says he's "very uncomfortable" with attributing "religious force" to AI, calling it "a real safety issue", as Anthropic meets with religious leaders (Ben Berkowitz/Axios)（新标签页打开原帖）
- 网页cnBetaAnthropic一直在积极游说梵蒂冈考虑人工智能意识（新标签页打开原帖）
- 网页新智元Claude有意识吗？Anthropic找上神学家，奥特曼警告：别神化AI（新标签页打开原帖）
- RedditReddit r/OpenAIAnthropic Has Been Aggressively Lobbying the Vatican to Consider AI Consciousness（新标签页打开原帖）
- 公众号Doonsec关于Anthropic秘密联动全球宗教学者一事（新标签页打开原帖）
- 网页cnBetaOpenAI CEO萨姆·奥特曼称将宗教力量赋予AI同样会是安全问题（新标签页打开原帖）
- Hacker NewsHacker NewsReligious scholars met with Anthropic（新标签页打开原帖）
- 网页IT之家Anthropic 被曝密会宗教领袖讨论 Claude 意识问题，OpenAI 奥尔特曼发声批评（新标签页打开原帖）
- Hacker NewsHacker NewsAnthropic tried to persuade Pope that AI could be conscious being（新标签页打开原帖）
- 网页AxiosOpenAI's Altman: Ascribing religion to models a "safety issue"（新标签页打开原帖）
关注度走势
每天新增来源
- 10月3日新增6个来源（3家媒体、3个账号）
- 10月4日新增5个来源（4家媒体、1个账号）
- 10月5日新增2个来源（1家媒体、1个账号）
- 10月6日新增0个来源（0家媒体、0个账号）
- 10月7日新增0个来源（0家媒体、0个账号）
- 10月8日新增0个来源（0家媒体、0个账号）
- 10月9日新增0个来源（0家媒体、0个账号）
- 10月10日新增0个来源（0家媒体、0个账号）
- 10月11日新增1个来源（0家媒体、1个账号）
- 10月12日新增0个来源（0家媒体、0个账号）