As cyber threats rise, Moonshot AI limits the hacking capabilities of its latest model Kimi K3.1 Pro
Amid rising cyber threats, Moonshot AI limits hacking capabilities in latest model
AI summary
月之暗面(Moonshot AI)在计划 11 月 4 日开放权重的最新模型 Kimi K3.1 Pro 发布前,刻意削弱其识别和利用软件漏洞的攻击性网络能力。该模型属三万亿参数级别,具备 100 万 token 上下文窗口。月之暗面称,从训练数据集和强化学习环境中移除网络攻击相关材料后,K3.1 Pro 在公司内部网络安全基准上得分为 81.0%,未做风险削减的可比版本为 90.5%,修改后模型仍超过前代;这些为公司自报结果,未经独立验证。报道还提到,中国上周提出涵盖 AI 恶意软件生成与变异、AI 辅助漏洞发现的出口管制草案,正公开征求意见。
Read original