Amid rising cyber threats, Moonshot AI limits the cyberattack capabilities of its latest model Kimi K3.1 Pro
Amid rising cyber threats, Moonshot AI limits hacking capabilities in latest model
AI summary
Moonshot AI 在计划于 11 月 4 日开放权重发布前,主动削减了新模型 Kimi K3.1 Pro 的网络攻击能力。该公司称,做法是从训练数据集和强化学习环境中移除网络攻击相关材料;在 Moonshot 的内部网络安全基准上,该模型得分为 81.0%,未做风险削减的可比版本为 90.5%,公司称修改后仍超过前代,但这些数字未经独立验证。该模型属 3 万亿参数级别,上下文窗口为 100 万 token。报道还提到,中国上周就 AI 驱动的恶意软件生成与变异、AI 辅助漏洞发现提出出口管制草案,正公开征求意见;开放权重扩散后,原开发商对模型部署和修改方式的影响力会大幅减弱。
Read original