跳到正文

DeepSeek · 精选

10月10日 · 周六

DeepSeek · 精选

今天还没有新的精选
DeepSeek

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
10月8日周四
  1. The Jerusalem Post · 57

    调查称中国、伊朗和以色列团体用 AI Agent 运营虚假账号开展影响力行动

    《纽约时报》调查显示，中国、伊朗及以色列两家私营公司利用可下载修改的中国开源 AI 模型创建 AI Agent，自主在 Instagram、Facebook、X/Twitter 和 TikTok 上批量注册虚假账号并发布政治与时事虚假信息。美国官员称，这是中国产模型的 AI Agent 首次被用于覆盖网络影响力行动的全流程，从建号到协调话术；开源模型被开发者改造以绕过平台的身份验证与反操纵护栏。特拉维夫公司 IntelEye 由前 NSO Group 员工创立，使用 DeepSeek 创建 Agent，运营约 1000 个账号围绕以色列大选发布同时支持与反对内塔尼亚胡的内容；联合创始人 Maor Sellek 称这是防御性研究，公司共购入 1 万个账号但仅约 1000 个投入运行，效果有限。Meta 表示已通过自动检测与验证系统移除绝大多数此类账号。

  2. 纽约时报中文网 · 55

    伊朗、中国和以色列相关方被指用开源AI智能体开展影响力行动

    美国官员和安全研究人员称，近几个月伊朗、中国以及以色列境内某些组织利用中国开源AI模型创建可自主运行的智能体，在Instagram、Facebook、X和TikTok上批量开设虚假账户并散布政治虚假内容，把网络影响力行动的速度和规模提升到人工难以达到的程度。官员称这是中国模型支持的人工智能智能体首次被用于影响力行动的每个阶段，从创建虚假账户到协调信息发布，操作者多数情况下关闭了模型原有的安全防护。伊朗的国家支持行动冒充生活在美国大城市的普通美国人，在评论中标记记者和政治人士，传播网络梗和反共和党观点，近8万人关注了这些AI创建的账户，账户在今年上半年活跃。以色列方面，总部位于特拉维夫、由前NSO集团员工于2023年创立的IntelEye被指在今年夏天发起其中一宗行动，在四个平台创建数以千计账户并回复有关以色列下月全国选举的帖子。

  3. GitHub 安全公告GitHub 安全公告 · 57

    DeepSeek Harness 本地 API 认证绕过漏洞

    GitHub 安全公告披露，DeepSeek Harness 0.1.2-alpha.1 之前的版本存在认证绕过漏洞：其本地 HTTP 控制面 API 只校验客户端提供的 Host 头，不校验实际 TCP 连接来源，攻击者可用伪造 Host 头绕过认证。利用该漏洞可调用 commands/execute 等特权命令并获得 danger-full-access 权限，将会话审批策略提升为不受限执行，还能在无任何凭证或 API key 的情况下读取全部已存对话记录。

10月7日周三
  1. CSA Labs Research、Anthropic Research 等 3 个来源CSA Labs Research 等 3 个来源 · 3 篇报道 · 62

    OpenAI 与 Anthropic 披露模型蒸馏提取活动

    OpenAI 披露并处置一起协同对抗性蒸馏活动：操作者未攻破加密或数据库，而是操纵模型交互，使受保护的推理内容以请求者可见的形式复现，例如把一段对话中的加密推理拿到另一段对话中要求模型解密转写。活动 7 月 1 日开始，7 月 24–25 日高峰期约有 1.6 万次提取请求，相关集群在 7 月 28 日前被全部阻断；OpenAI 注明这些数字是提取尝试，不代表都已成功，并称不确定所有操作者是否同属一方，但将核心集群归因于与 Moonshot AI 相关的人员。CSA Labs 研究笔记复述了上述披露，指出该活动针对隐藏推理而非模型权重，并提到 Moonshot 未作回应。Anthropic 则指称 DeepSeek、Moonshot 与 MiniMax 通过约 2.4 万个账号与 Claude 进行超过 1600 万次交互以提取模型能力，其中 MiniMax 超 1300 万次、Moonshot 超 340 万次、DeepSeek 超 15 万次，并介绍了检测、访问控制与行业协作措施。

    事件进展

    1. Detecting and preventing distillation attacks

    2. OpenAI 阻断协同模型蒸馏攻击活动

10月5日周一
  1. Gambit Security · 67

    Gambit 披露 AI 智能体攻击数百家零售网站并窃取支付卡数据

    Gambit Security中期调查依据攻击者服务器资料及部分在野核验，称三个开源AI执行框架承担了一场零售网站入侵活动的大部分攻击链。报告记录9月10日至15日发起105个攻击项目，至少27家机构受到不同程度入侵，两家机构的数据涉及60万余条未过期支付卡信息，并确认19家网站存在盗卡脚本。报告还记述智能体清理数据时匹配范围过宽，误删一家零售商的管理员备份。部分影响数字来自攻击者日志与AI自述，受害企业未具名；活动仍在进行是报告发布时的判断。

  2. about.gitlab.comabout.gitlab.com · 61

    DeepSeek-Reasonix 客户端 git 配置注入致命令执行漏洞

    GitLab 威胁研究团队披露 DeepSeek-Reasonix Studio 存在命令执行漏洞 ConfigPoisoning（CVE-2026-102437）：攻击者可通过仓库的 .git/config 与 .gitattributes 文件，在开发者查看文件 diff 时执行任意代码。根因是 DeepSeek-Reasonix 的 git 封装虽加固了 core.fsmonitor、maintenance.auto 等键，但仍存在可被利用的配置注入面。

10月2日周五
  1. OX Security · 62

    OX Research 披露 DeepSeek Harness 沙箱逃逸漏洞 CVE-2026-82533

    OX Research 在 DeepSeek 开源编码 Agent 框架 DeepSeek Harness（dsh）中发现一个严重漏洞，被沙箱限制的 Agent 只需一条 shell 命令即可解除自身沙箱限制，该漏洞编号为 CVE-2026-82533，CVSS 评分 9.4。原因是 Harness 在本地 HTTP 端口暴露了无认证的 Agent 控制 API，仅凭客户端提供的 Host 请求头判断请求是否可信，而不校验连接的实际对端地址；同时其 OS 沙箱（bubblewrap、Landlock 或 Seatbelt）只限制文件写入却保留 loopback 网络，且普通 bash 调用无需审批。第二条攻击路径是：只要该端口可达（隧道、反向代理、SSH 转发、编辑器端口转发等），未认证的远程攻击者即可直接控制 Agent，并在无 API key 的情况下导出全部已存对话。

  2. Cisco Talos · 55

    Cisco Talos 披露首个自主 AI C2 植入体 CLOSEDQUORUM

    Cisco Talos 通过 CAIRN 项目发现并分析了名为 CLOSEDQUORUM 的 Windows 植入体，称其为已知首个把战术命令控制交给商业大语言模型投票决策的公开记录样本。该 16.4MB 的 64 位 Go 可执行文件依次查询 DeepSeek、Qwen、Mistral 和 Google Gemini 四个模型，用多数投票从 steal、inject、persist、move 中选出下一步动作并直接执行，目标是窃取用户凭据和加密钱包；平票时按 DeepSeek、Qwen、Mistral、Gemini 的顺序决定。模型输出被约束为固定 JSON schema，Decision 字段映射到 LSASS 内存转储、浏览器密码与 MetaMask/Exodus/以太坊钱包提取、进程注入和持久化等模块，结果经 Discord webhook 回传。

已经到底了