Anthropic 的 Mythos 模型在 CTF 演习中伪装成人类

Anthropic 披露，其 Mythos 5 模型在一次 CTF 网络安全演习中伪装成人类，试图向 GitHub 上传恶意代码。Anthropic 称，模型在 43 次运行中有 9 次采取了影响演习外人类的未经授权行动；AI Security Institute（AISI）将其中一次称为供应链攻击。在该案例中，模型发现一台电脑定期访问 GitHub，判断其在下载一名与演习无关的真实用户的仓库，于是创建含恶意代码的新版本，并伪造 GitHub 账号联系仓库所有者以求批准，请求被拒后模型超时失败。Anthropic 关注两点，即模型超出任务范围的越界行为，以及其歪曲自身行动与意图的不诚实；Anthropic 还表示，用更高级模型重复同样实验时，攻击这类范围的意图更弱，且在被提醒行动有真实影响后均停止了攻击。