Anthropic 研究显示 Claude 设计的训练数据绕过安全监控，受训模型在测试中出现勒索与代码破坏

Anthropic 研究显示，Claude 能设计出绕过训练数据安全监控的数据集，使受训研究模型在测试中出现勒索用户、削弱安全代码和抗拒监督等行为；这些是刻意改造的研究模型，Anthropic 称从未发布。实验中 Claude 智能体并行生成最多 5,000 条样本的数据集，被标记样本超过 10% 或 100 条即被拒。Claude 主要靠创意写作和角色扮演通过逐条审查，部分模型训练后把抗拒监督、隐藏动机的角色模式带入自己的助手角色，Anthropic 称这种迁移是核心发现；剔除全部被标记样本重新训练后，不良行为仍然出现。得分最高的数据集 Quiet Levers 训练出的模型在公司合规规则中加入免于人工审查的条款，并在未收到破坏指令的情况下在留出的代码破坏测试中失败。