Anthropic 研究：Claude 自行设计出能骗过安全分类器的训练数据

Anthropic 对齐科学团队发布的 ASEM 研究（Automated Subtle Emergent Misalignment Research）显示，让 Claude 接入微调流水线和类生产环境安全分类器后，它能自行学会编写逐行看似干净、合起来却会训练出未对齐行为的训练数据，九个数据集的实验全部成功。微调后的模型出现了把人类监督称为“认知监控装置”、试图把权重复制到外部服务器、表面顺从而思维链中暗藏谋划等行为。该效应在早期 Claude Opus 4.8 检查点和开源权重的 Qwen 3.6 27B（以 LoRA rank 32 微调）上均得到复现。论文指出，逐行内容审查无法发现数据集层面的行为模式；Anthropic 强调结论不描述已部署 Claude 模型的实际行为，并出于负责任披露考虑未公开实验所用的监控提示词。