网络威胁上升之际,Moonshot AI 限制最新模型 Kimi K3.1 Pro 的网络攻击能力
Amid rising cyber threats, Moonshot AI limits hacking capabilities in latest model
AI 导读
Moonshot AI 在计划于 11 月 4 日开放权重发布前,主动削减了新模型 Kimi K3.1 Pro 的网络攻击能力。该公司称,做法是从训练数据集和强化学习环境中移除网络攻击相关材料;在 Moonshot 的内部网络安全基准上,该模型得分为 81.0%,未做风险削减的可比版本为 90.5%,公司称修改后仍超过前代,但这些数字未经独立验证。该模型属 3 万亿参数级别,上下文窗口为 100 万 token。报道还提到,中国上周就 AI 驱动的恶意软件生成与变异、AI 辅助漏洞发现提出出口管制草案,正公开征求意见;开放权重扩散后,原开发商对模型部署和修改方式的影响力会大幅减弱。
阅读原文