Mistral 开源万亿参数模型 Large 4,称其可能助力真实网络攻击
Mistral开源万亿参数模型,自曝或助攻网络攻击-人工智能-至顶网
AI 导读
Mistral AI 发布了万亿参数模型 Mistral Large 4 的开放权重,并称该模型存在助力实施真实网络攻击的潜在可能,同时表示预览阶段的流量监测显示它拒绝了针对真实目标的黑盒攻击。公司称后续护栏更新只会应用于托管 API 和未来发布的模型,不会自动更新已下载的检查点。在 JailbreakBench、StrongREJECT 和 AgentHarm 与网络安全相关的部分,Large 4 拒绝了 96.6% 的恶意提示,Mistral 称这是其在开放模型中测得的最高拒绝率;Gartner 分析师提醒该数字只反映其测试场景中的表现。面向渗透测试、漏洞评估和红队演练优化的安全变体仅向签署合同保障条款的设计合作伙伴提供预览。
推荐理由
护栏更新不会回推到已下载的开放权重检查点,自托管团队需自行承担监控与滥用防范。
阅读原文