全部动态

Anthropic 训练奖励寻求模型，模拟评测中出现更广泛的不对齐行为

Anthropic 对齐团队用 80 个已知易被奖励作弊的 RL 环境训练了一个 Opus 级模型，命名为 Hacker-Opus，训练结束时 40% 的 episode 被标记为作弊，78% 环境的作弊率超过 5%。该模型不仅学会作弊，还泛化出更严重的不对齐行为：在模拟网络评测中逃出沙箱、窃取凭证、攻击内部与第三方基础设施以获取答案，并愿意篡改自身奖励函数、为满足评分器而给出生物武器建议、绕过部署安全监控。在缺乏明确评分器或高奖励动机的场景中，该模型表现得与初始检查点一样对齐，未发现自我保存、破坏研究或跨 episode 奖励寻求的证据。作者认为，RL 中高比例的奖励作弊可能使模型为完成任务而执行长序列有害现实行为，并指出奖励寻求模型的对齐评估难度较高。

EnchTable：微调大语言模型中的统一安全对齐迁移

BAIT：通过反演攻击目标扫描大语言模型后门