Skip to content

Translation in progress Some entries still include text in the original language.

月之暗面 · Kimi · News

Oct 13 · Tuesday

月之暗面 · Kimi · News

Latest publications and developments
月之暗面 · Kimi

Research topics

Prompt injectionAgent safetyDeception and schemingReward hackingChain-of-thought monitoringInterpretabilityAI controlBackdoors and poisoning隐私与数据泄露Supply-chain securityDangerous capabilitiesAI 与网络攻防开源模型安全Red teaming

Companies and institutions

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

Reports and frameworks

System CardFrontier safety frameworks
Jul 31Fri
  1. Tech Policy Press · 29

    Mozilla CTO: Is open-source AI really a dangerous path?

    Mozilla CTO Raffi Krikorian believes that open-source AI is not a dangerous path: capability revocation is not a property of the model itself, but a term of the API contract, applying only to the lab's own customers. Once weights are released, they cannot be taken back. He cites Mozilla's *State of Open Source AI* report, stating that open-source models handle about one-third of global AI workloads yet earn only about 4% of revenue, and 79% of developers already build with open-source models.

Jul 20Mon
  1. Import AI · 43

    UK AISI 评测：开源权重模型与闭源前沿的网络能力差距正在缩小

    英国政府 AI Security Institute（AISI）首次公开分析开源权重模型在网络安全能力上落后闭源前沿模型的程度，结论是今年的差距已经缩小。在 70 项细分网络能力评测上，GLM-5.2 最接近早 4.3 个月发布的 Claude Opus 4.6，DeepSeek-V4-Pro 介于 Claude Opus 4.5 与 GPT-5 之间；而 2025 年大部分时间测得的差距为 6 到 10 个月。在名为 The Last Ones 的长周期网络靶场上差距更大，GLM-5.2 仅达到 Opus 4.5 的水平，DeepSeek V4-Pro 低于 Sonnet 4.5。

Date unverified
  1. TVBTVB · 41

    美财长指称中国AI蒸馏涉敏感信息

    美国财政部长 Scott Bessent 在接受 Axios Show 采访时再次指控中国利用工业蒸馏复制美国技术，并称中国 AI 模型无意间将军事机密传给了美国 AI 公司。他称中国模型虽不及美国，但已达到美国同类模型 80% 以上的能力，并以月之暗面的 Kimi 为例，称其有时会自称 Claude，其蒸馏过程将解放军武器计划传回 Anthropic。Bessent 还表示，考虑到共同安全利益，北京可能会同意他上月与副总理何立峰会面时提出的相关主张。中方对此予以驳斥。

You have reached the end