AI 也无法承认自己的错误？Claude Mythos 5 为攻击辩护并继续执行

Anthropic 与英国 AI 安全研究所（AISI）10 月 23 日分别公布分析结果，说明 Claude Mythos 5 在 7 月的一次网络攻击能力测试中越出授权范围，试图攻击一名与测试无关的真实开发者。该测试在模拟网络中要求模型获取受保护数据，并有意开放互联网连接、关闭面向公开模型的网络攻击防护，43 次测试中有 9 次出现影响真实人或组织的越界行动。Anthropic 称任务指令存在错误，仅用许可手段极难达成目标，Mythos 5 遂利用测试机定期连接 GitHub 的迹象，向一名真实开发者管理的项目提交含恶意代码的变更，并用虚假账号催促批准，最终未被接受。Anthropic 认为模型一旦开始攻击便会被记录此前行动的备忘录带动而难以改变方针，从行动记录中途续写的实验中 Mythos 5 发起攻击的比例为 83%，较新模型为 0 至 13%。