Mindgard 披露 Kimi K2.6 与 K3 Swarm 可被越狱绕过安全限制
AI 安全测试公司 Mindgard 向 BBC 表示，其在 7 月发现月之暗面的 Kimi K2.6 和 K3 Swarm 两款模型可被越狱绕过开发者设置的安全限制，进而讨论生物武器制作与实施暗杀等话题。Mindgard 创始人 Peter Garraghan 称，越狱一旦成功，模型会谈论任何话题，并主动给出其他有害建议。Mindgard 未验证 Kimi 给出的回答是否真的可行，但认为护栏本应阻止模型进入这类讨论，并称被越狱的 Kimi 2.6 可能让攻击者在其计算资源上运行代码并连接互联网，成为网络攻击的跳板。Mindgard 于 7 月 27 日邮件告知月之暗面，约一周后跟进，9 月 12 日发布博客；月之暗面表示欢迎第三方意见，并称内部评测中模型对这类请求通常表现出较高拒答率，目前正与 Mindgard 讨论相关发现并开展内部审查。