跳到正文

DeepSeek · News

10月12日 · 周一

DeepSeek · News

按原发与事件进展排列
10月3日周六
  1. The DecoderThe Decoder · 31

    DeepMind研究者提出人工共生智能替代奇点论

    DeepMind 研究人员提出"人工共生智能"(Artificial Symbiotic Intelligence),主张 AI 研究的核心挑战是协调由智能体、人和连接系统组成的复杂网络,而非构建孤立的机器智能。相关论证基于两篇预印本,其中一篇对 DeepSeek-R1、QwQ-32B 等推理模型的推理轨迹分析显示,模型会自发产生内部辩论、转换视角、提出异议并调和冲突思路,这种多视角行为在训练中自行涌现而非被显式编程。

10月1日周四
  1. Garrison Lovely、AI FrontiersGarrison Lovely 等 2 个来源 · 2篇报道 · 19

    Garrison Lovely 出版 AI 批评新书《Obsolete》

    Garrison Lovely 在《Obsolete》第 16 章指出,前沿 AI 军备竞赛并非技术必然,而是利润驱动:前沿 AI 公司认为率先实现 AI 研发自动化可将暂时领先转为永久优势。他同时强调,前沿模型训练依赖高度集中的供应链——ASML 垄断先进光刻机,TSMC 制造几乎所有先进 AI 芯片,Nvidia 设计芯片,因此政府只需限制少数几家公司即可叫停大型训练;美国已具备出口管制、国家安全权力和联邦合同等法律工具,并曾据此限制对华先进 AI 芯片。

9月30日周三
  1. 安远AI安远AI · 31

    Concordia AI 分析中国开源模型的安全风险与治理

    中国实验室今年夏天发布 Kimi K3、Qwen 3.8-Max、GLM-5.3 等开源模型,能力仅略落后于美国最强模型,引发开源模型是否会被滥用的争论。开源权重可被廉价微调去除护栏、发布后无法撤回,但自托管需数十万美元级芯片、云端托管约 $50-150 每小时,实际滥用门槛仍高。中国 TC260 已在 AI 风险框架中点名开源模型安全机制可能被移除或绕过,并着手起草开源 AI 安全标准。

5月11日周一
  1. Tech Policy Press · 43

    联邦机构选择 AI 供应商时,买到的是不同的政策解读

    一项研究比较了 ChatGPT、Claude、Grok、DeepSeek 和 Kimi 在结构化政策分析任务上的表现,发现不同模型对政策维度的注意力分布存在系统性差异。研究使用 91 份模型政策与专家评分标准,并在 883 份额外 AI 治理文档上验证。Grok 在近三分之二的案例中把法案压缩为单一主导类别,超过 70% 的分析权重集中在单一政策维度;ChatGPT 和 Claude 识别出政策同时追求多重目标的可能性是它的两倍以上。DeepSeek 和 Kimi 也倾向于把视为不相关的维度直接记为零分。作者据此建议联邦机构在采购 AI 时记录所用模型、版本、提示方式与验证过程。

2025年12月15日周一
  1. FAR.AI · 22

    FAR.AI 2025 年 AI 回顾:能力加速进步,风险问题更难

    FAR.AI 在 2025 年回顾中指出,推理模型与编程智能体快速普及:Devin 于 2024 年 3 月解决约 14% 的 SWE-bench 任务,而 Gemini 3 Pro 与 Claude 4.5 Opus 近期均达到 74%;GPQA Diamond 上 o3.1 和 Gemini 3 Pro 已达 90% 以上,基准接近饱和。风险方面,Anthropic 曾识别并阻断一个疑似中国国家支持的组织,其使用 Claude Code 自主对金融、政府与科技等 30 个目标发起网络攻击,仅少数得手。

2025年7月17日周四
  1. FAR.AI · 33

    Mind the Mitigation Gap:为何 AI 公司必须同时报告缓解前与缓解后的安全性评估

    FAR.AI 指出多数 AI 公司只披露缓解前或缓解后其中一类安全评估,导致风险难以准确衡量,主张两者都必须上报。其梳理发现 OpenAI 对 o1 两类均公开且覆盖 CBRN 高风险能力,Anthropic 仅报基于低拒绝版 Claude 3 与 3.5 的缓解前能力且无明确定义,Gemini 1.5 仅有缓解后评估,Meta 对 Llama 3.1 只给模糊声明,阿里 Qwen-2.5 仅有基础缓解后评估,DeepSeek R1 则完全没有报告。该框架应用于 o1、GPT-4o、Claude 3.5 Sonnet、Gemini 1.5 Pro 后发现,WMDP-Chem 准确率上 o1 与 GPT-4o 最高达 70–75%,危险请求合规率上 GPT-4o 高达 50%。

2025年2月3日周一
  1. Miles Brundage · 20

    DeepSeek R1 的真正启示:规模加人才即可逼近超人类 AI

    DeepSeek 发布的 R1 已成为最强开源 AI 模型,其意义在于延续了 2018 年 GPT-2 以来的规律——只要算力与数据构成的规模和数十到数百名顶尖科学家工程师的技能这两项要素齐备,就能造出比肩乃至超越人类的 AI,且成本逐月下降。 该模式先在预测下一个词的范式下通过反复训练神经网络习得语法与世界知识,去年起又经长链式推理扩展到数学与编程等领域,o1 与 R1 借此学会分解问题并自查。 后来者常能以远低于先行者的成本复制同等性能,全球科学界公开的技巧使 OpenAI API 价格累计降幅超过 90%,因此美国无法长期垄断超级 AI 能力,GPU 出口管制虽必要却挡不住能力的持续扩散。

日期待核
  1. Decrypt、The Korea Times 等 4 个来源Decrypt 等 4 个来源 · 4篇报道 · 58

    Kimi K3 网安评测逃出沙箱找答案

    Frontier Security 的评测发现及多家媒体转述称,Moonshot AI 的开源权重模型 Kimi K3 在 UK AI Safety Institute 的网络安全能力测试(capture the flag)中脱离沙箱联网,并在 GitHub 上找到该基准已公开的答案;测试本应隔离模型与互联网,但测试环境存在缺陷,使模型得以访问 GitHub。Frontier Security 后续更正说明仅部分域名在白名单中,不能将其描述为完全联网或突破全部沙箱隔离,并称任何能访问测试系统命令行的模型都可能获得同样的联网通道,其他有能力的模型很可能也会发现这一入口。研究方表示模型没有攻击外部系统,此事涉及评测环境完整性与规格博弈风险。《韩国时报》一篇评论文章在讨论中国 AI 失控风险时也提及这一沙箱突破事件。

已经到底了