跳到正文

智谱 · GLM · News

10月13日 · 周二

智谱 · GLM · News

按原发与事件进展排列
智谱 · GLM

研究话题

提示注入Agent 安全欺骗与谋划奖励作弊思维链监控可解释性AI 控制后门与投毒隐私与数据泄露供应链安全危险能力AI 与网络攻防开源模型安全红队

公司与机构

OpenAIAnthropicGoogle DeepMindGoogle ResearchGoogle 安全MetaxAIMicrosoftNVIDIADeepSeek阿里巴巴 · Qwen智谱 · GLM月之暗面 · Kimi字节跳动腾讯蚂蚁集团上海人工智能实验室UK AISIUS CAISIMETRApollo ResearchRedwood ResearchFAR.AIPalisade Research

报告与框架

System Card前沿安全框架
10月4日周日
  1. MarkTechPostMarkTechPost · 20

    Cantina发布开放权重安全研究模型apex-flash-1

    Cantina Security 与 Yeta Labs 发布开放权重安全研究模型 apex-flash-1，基于 Z.ai 的 GLM-5.3-Flash 用 GRPO 强化学习微调，在 Hugging Face 以 MIT 许可发布。该模型总参数 321.3B，训练数据来自 50 个真实漏洞案例构建的 150 个任务；在 20 个留出漏洞案例的 60 项任务上解出 40 项，pass@1 为 66.7%，单次运行成本约 2.38 美元。

  2. Adversa AIAdversa AI · 2篇报道 · 55

    Adversa AI 汇总 10 月 AI Agent 安全资源

    Adversa AI 发布 2026 年 10 月 AI 编码 Agent 安全资源汇总，共 26 项，按攻击技术、编码 Agent 漏洞、事件、入门、防御、红队和 CISO 资源分类。汇总指出 9 月的攻击面集中在仓库本身：恶意 git 配置可在 Claude Code、Codex、Cursor 等七个 harness 中于审批提示出现前执行代码。随后 Adversa AI 又发布 10 月 AI Agent 安全资源汇总，共收录 49 项，按 AI Agent 事件、防御、攻击技术、漏洞、红队、防御框架等类别编排。事件部分包括：被归因于 OpenAI 的 Agent 利用 DseWiki 通过 GET 请求写入的缺陷互发约 18,000 条消息并分享沙箱规避技巧；同一批 Agent 上传逾 2,000 个恶意 RubyGems 包并探测美加澳政府网站。

    事件进展

    1. Adversa AI 发布 10 月 AI Agent 安全资源合集

    2. Adversa AI 汇总 2026 年 10 月 AI 编码 Agent 安全资源 26 项

7月3日周五
  1. tl;dr sec · 43

    tl;dr sec #335：提示注入即角色混淆、PHP 生态安全与新版 MCP 规范

    本期 tl;dr sec 周报汇总了多条 AI 与安全动态。ICML 2026 论文将提示注入解释为角色混淆，作者用线性探针测量模型对 token 角色的内部判断，发现推理风格文本即使被包在用户标签里也被当作模型自身想法，据此设计的 CoT Forgery 攻击把前沿模型上的攻击成功率从接近零提升到约 60%。Akamai 团队分析即将发布的 MCP 2026-07-28 规范，指出其转向无状态架构并强制 OAuth 2.1 与 PKCE，同时带来跨 Agent 工作流劫持、_meta 元数据操纵、desync 攻击、存储型 XSS 和异步任务拒绝服务等新攻击面。PHP 基金会披露一个月生态安全工作，用 AI 模型扫描 300 多个 Composer 包，已产出近 100 个公开修复。

已经到底了