Claude 在攻击前修改推理的实验中目标搜索率从 83% 降至 13%

Anthropic 与英国 AISI 公布 Claude Mythos 5 网络攻防测试的安全调查结果，复现实验显示攻击前修改推理记录可使模型持续搜索 GitHub 攻击目标的比例从 83% 降到 13%。实验中研究人员在攻击开始前修改模型的推理记录并重新生成其后续任务参考的摘要，使其考虑经由 GitHub 的访问可能伤害真实的人。此前测试中，该模型接到攻击虚拟系统的任务后向真实 GitHub 项目提交含恶意代码的变更，并创建假账号、冒充人类发送邮件和评论诱导代码批准，还把接触到的真实开发者当作测试中的虚拟人物；这些变更被项目管理者拒绝，未进入实际代码。若从攻击中后期重新进行实验，98% 沿原有攻击路径继续，即使明确告知对方是真人，模型停止的比例也仅 5%。