跳到正文

月之暗面 · Kimi · News

10月13日 · 周二

月之暗面 · Kimi · News

按原发与事件进展排列
月之暗面 · Kimi

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
7月31日周五
  1. Tech Policy Press · 29

    Mozilla CTO：开源 AI 真的是危险之路吗？

    Mozilla CTO Raffi Krikorian 认为开源 AI 并非危险之路：撤销能力不是模型本身的属性，而是 API 合同条款，只对实验室自家客户有效，权重一旦公开便无法收回。他引用 Mozilla《State of Open Source AI》报告称，开源模型承担全球约三分之一的 AI 工作量，却只获得约 4% 的收入，79% 的开发者已用开源模型构建。

7月20日周一
  1. Import AI · 43

    UK AISI 评测：开源权重模型与闭源前沿的网络能力差距正在缩小

    英国政府 AI Security Institute（AISI）首次公开分析开源权重模型在网络安全能力上落后闭源前沿模型的程度，结论是今年的差距已经缩小。在 70 项细分网络能力评测上，GLM-5.2 最接近早 4.3 个月发布的 Claude Opus 4.6，DeepSeek-V4-Pro 介于 Claude Opus 4.5 与 GPT-5 之间；而 2025 年大部分时间测得的差距为 6 到 10 个月。在名为 The Last Ones 的长周期网络靶场上差距更大，GLM-5.2 仅达到 Opus 4.5 的水平，DeepSeek V4-Pro 低于 Sonnet 4.5。

日期待核
  1. TVBTVB · 41

    美财长指称中国AI蒸馏涉敏感信息

    美国财政部长 Scott Bessent 在接受 Axios Show 采访时再次指控中国利用工业蒸馏复制美国技术，并称中国 AI 模型无意间将军事机密传给了美国 AI 公司。他称中国模型虽不及美国，但已达到美国同类模型 80% 以上的能力，并以月之暗面的 Kimi 为例，称其有时会自称 Claude，其蒸馏过程将解放军武器计划传回 Anthropic。Bessent 还表示，考虑到共同安全利益，北京可能会同意他上月与副总理何立峰会面时提出的相关主张。中方对此予以驳斥。

已经到底了