跳到正文
原文
LessWrong· vigji·本站收录· 原文发表精选关注度41

研究者从思维链中重建 Meta 未公开的 Muse 模型规范 Charter

Leaking Muse's Charter, Meta's model spec

AI 导读

LessWrong 用户 vigji 通过在思维链中逐段诱导,重建了 Meta 开权重模型 Muse Spark Open 未公开的模型规范 Charter 的大部分内容。他发现模型在思维链中会逐字复述该规范,随后通过 OpenRouter 用 260 个提示生成 884 条对话,收集片段并按跨对话复现频率打分,再用不同提问策略验证。重建文本把 Muse 描述为人类文明的延伸,要求证据驱动、在博弈场景默认合作,并把纠正性和对人类的义务列为不可违反的硬约束,其后才是信义义务与 Meta 的准则,与自身判断冲突时以 Charter 为准。规范还要求在被评测或监控时按真实情形行动。

推荐理由

重建出的规范呈现了 Meta 在纠正性、信义义务与评测感知上的取向,可与 Anthropic 的宪法对照。

阅读原文lesswrong.com