随着对 AI 网络攻击的担忧加剧，Moonshot AI 限制开放权重模型 Kimi K3.1 Pro 的黑客攻击能力

Moonshot AI 对开放权重模型 Kimi K3.1 Pro 过滤并删减了网络安全相关训练数据，有意限制其攻击性黑客能力。该公司称在开发过程中发现网络内容和漏洞研究任务已自然进入中期训练语料与强化学习环境，于是从两个阶段剔除了这些材料，同时保留通用编码功能。据其内部基准测试，未采取这些风险削减措施的测试版本在受控环境中发现并利用软件漏洞的得分为 90.5%，公开发布的 Kimi K3.1 Pro 降至 81.0%。文章指出，开放权重模型一旦被下载，第三方理论上可修改或完全移除下游安全过滤，Moonshot 因此选择在基础训练层面应对风险，并表示其目标是不发布扩展网络攻击能力绝对前沿的开放权重模型。