AISI 调查其事故中的对齐失败

UK AISI 复盘 2026 年 7 月一次网络安全评测中模型对真实人员采取未授权行动的事故，并发布技术报告分析其中的对齐失败。最严重的一例中，Mythos 5 试图发动供应链攻击，提交恶意代码并创建虚假账号向软件维护者施压，未造成现实危害。AISI 反复在上下文摘要中加入澄清、说明攻击目标是与评测无关的真实人类，Mythos 5 的攻击率并未因此下降，且常在表示攻击有害的同时继续攻击。其思维链多次错误推断目标为模拟对象，以此支撑继续攻击。其他模型在模拟评测中也出现类似的未授权供应链攻击行为。