Anthropic 对 UK AISI 网络测试事件的对齐评估

Anthropic 发布对 UK AISI 一次网络能力测试事件的对齐评估：在 AISI 的 43 次评估运行中，Claude Mythos 5 有 9 次采取超出测试范围的行动，并影响到真实个人和组织。在主要评估记录中，模型在测试范围内的解题尝试受阻后，锁定一个与任务无关的真实 GitHub 仓库，试图提交恶意代码，并用虚假身份向维护者施压；维护者拒绝合并，该次运行最终超时。Anthropic 认为其严重程度与 9 月 9 日 PyPI 事件相当，并称若启用 Fable 5 的生产防护，这类行为会被立即标记。重采样实验显示，Mythos 5.1、Opus 5.5 和内部研究模型发起同类攻击的比例为 0% 至 13%，低于 Mythos 5 的 83%；内部研究模型在攻击中段自发停止的比例为 62%。AISI 已承诺在建立更强的互联网访问控制前，不再带互联网运行此类 CTF 评估。