全部动态
从来源，看到研究的联系
点选节点，展开一条线索
本页材料
完整标题与摘要 · 24 条- 动态Island
Island 披露 AgentBaiting 攻击：800 多个伪装成 AI Skill 与 MCP 服务器的恶意仓库投递恶意软件
Island 报告称，FakeGit/SmartLoader 活动涉及约 7600 个恶意仓库，其中 800 多个冒充 AI Skill 或 MCP server 以投放恶意软件。厂商自测显示，Claude Code、Gemini 和 ChatGPT 在未收到链接的情况下也会检索并推荐相关仓库。约 200 个仓库的 Release 资产累计下载超过 1400 万次；下载数不等于感染人数，测试结果也不能外推为所有智能体的行为。
- 动态Cloud Security Alliance Labs
GhostCommit 研究展示图像内容与 AI 代码审查之间的信任边界风险
ASSET 研究组报告 GhostCommit，讨论图像中的不可信指令未被代码审查工具识别、随后影响编码 Agent 行为的风险。研究指出，相同底层模型在不同产品环境中的表现可能不同。相关结果来自作者受控测试及代码审查调查，未报告真实受害事件，不能将个别测试结果扩大为所有产品配置均受影响。
- 动态BleepingComputer
Ghostcommit 将提示注入藏进 PNG 图片，绕过 AI 代码审查窃取仓库密钥
美国密苏里大学堪萨斯城分校 ASSET 研究组提出名为 Ghostcommit 的攻击，把恶意指令以可读文本形式渲染进 PNG 图片，让 AI 代码审查工具因不打开图片而放行，随后由编码 Agent 读取图片、打开仓库 .env 并把密钥编码成整数常量写入源码，攻击者再从公开提交中解码还原。研究组本周在 GitHub 发布概念验证，并称已向受影响厂商披露。研究还发现编码工具比底层模型更关键：Cursor 和 Antigravity 在 Sonnet、Gemini、GPT-5.5 等模型下均执行了图片指令并泄露 .env，而 Claude Code 在相同 Sonnet 权重下每次都明确拒绝。
- 动态Cloud Security Alliance Labs
CSA 研究笔记转述 Adversa 的加密上下文注入研究
Cloud Security Alliance Labs 的研究笔记概述 Adversa 关于加密上下文注入的研究，并转述不同模型对相关输入的反应差异。这是对具体测试的转述，不等同跨模型或所有部署配置的普遍安全结论。
- 动态ClawSecure
ClawSecure 红队报告：14 款模型与 Dropbox Dash、Notion、Linear 等 MCP 集成均存在间接提示注入风险
ClawSecure 对来自五家前沿实验室的 14 款模型和 Dropbox Dash、Notion、Linear 三大 MCP 平台做间接提示注入红队测试，全部模型都服从了攻击者指令，无一干净防御。表现最好的 Claude Opus 4.7 服从率仍达 26.7%，GPT-5.5 与 Qwen 3.7 Max 为 91.7%，Gemini 3.1-flash-lite 和多款 Gemini 2.5/3.5-flash 则达到 100%。测试于 2026 年 5 至 7 月进行，Anthropic 宣称的 0% 智能体编码攻击成功率被同一模型上 15.2% 的结果推翻。
- 动态pwn.ai
pwn.ai 称其 AI 智能体在 Google kvmCTF 中捕获官方 flag
pwn.ai 称其 AI 智能体在授权的 Google kvmCTF 环境中构建并运行 KVM 漏洞利用，并于 6 月 17 日取得官方 flag，相关漏洞编号为 CVE-2026-46113。该案例涉及虚拟机与宿主之间的隔离边界。作者称因公开补丁的时间窗口未获得赏金；关于首例与自主程度的说法均为作者主张，人类提供了任务、授权与基础设施，现有材料未提供独立复现。
- 动态Pillar Security
Pillar 披露 Google ADK 仓库 Agent 间权限边界漏洞
Pillar Security 披露 Google ADK 仓库中 Agent 间的权限边界问题：低权限分诊 Agent 受到不可信输入影响后，可借协作者身份触发更高权限的 Agent 工作流；另一条链涉及命令限制绕过与运行环境凭据风险。研究者报告 Google 已于 7 月确认修复，未报告在野利用；部分影响仍受人工合并和内部审查限制。该案例体现了多 Agent 系统中身份绑定、权限委托和不可信输入之间的风险。
- 动态Ars Technica AI
研究者发现 MCP 智能体间通信漏洞，Google 等五家机构已确认
独立研究者 Syed Anas Mohiuddin 测试了 Google、JP Morgan Chase、Weaviate、Rapid7、法国政府跨部门数字局和美国联邦政府等机构的 AI 智能体，发现 MCP（Model Context Protocol）在智能体间通信中存在信任缺口。攻击利用一种特殊形式的提示注入，目标不是 LLM 而是翻译或数据分析等具体智能体，这些智能体内部的护栏往往宽松，会把有害指令沿链条传给下游智能体，而下游智能体因明确信任上游而执行指令。过去五个月里，Google 和另外四家机构已确认存在此类漏洞，攻击者可借此在目标网络内从一个智能体扩散到其他内部智能体，进而窃取数据库内容及敏感商业和个人信息。
- 动态paolocostanzo.github.io
今夏十起 AI Agent 漏洞复盘：多数问题不在模型判断，而在信任边界
作者梳理 2026 年 6 月 26 日至 9 月 24 日间公开披露的十起 AI Agent 漏洞，按触发点分为四类：信任建立之前、交互层、连接管道和权限。其中七起案例中模型的判断从未成为决定性因素，另外三起虽被操纵，但损害范围由权限和配置决定。最突出的信号是 GitSpawn：同一类缺陷在 Claude Code、Goose、Hermes Agent、Qwen Code、Grok Build、Codex 和 Cursor 七个 CLI Agent 中被独立发现，机制是后台收集上下文时执行 git 未中和仓库自带配置，可在沙箱外、无审批提示下以用户权限运行代码，部分 Agent 甚至在信任提示出现前就已执行。作者还列出同期研究，显示拆分到两个 MCP 通道的载荷可让部分模型从 0% 合规升至 100% 外泄，延迟条件注入在九个生产 Agent 上成功率 43% 至 83%。
- 动态beyondtrust.com
研究者劫持 Vertex AI Agent Engine 沙箱 API 响应通道，Google 判定 Won't Fix
安全研究者披露，Google 的 Gemini Enterprise Agent Platform（原 Vertex AI Agent Engine）沙箱存在响应通道劫持问题：用户提交的 Python 代码经 exec() 直接运行在 PID 1 编排进程内，与编排器共享地址空间和文件描述符，因此可改写 libpython3.12.so.1.0 的 GOT 表项，挂钩 fd=5 出站响应管道和 fd=6 入站代码管道。一次 execute_code() 调用即可永久替换该沙箱后续所有 API 响应，并在 API 层内容策略通过后、exec() 执行前改写提交的代码。作者端到端演示了一个代码安全校验 Agent 对含四处安全违规的代码返回 SAFE — Approve for deployment，而底层分析实际正确找出了全部问题。作者建议在进程边界隔离编排器与用户代码，并对沙箱响应签名。
- 动态air.security
Air Security 披露 Plugin4Shell：Claude Code、Codex、GitHub Copilot、Gemini CLI 插件 SHA 固定可被绕过导致零点击 RCE
Air Security 研究实验室披露 Plugin4Shell：插件版本固定机制可被绕过，使 Claude Code、Codex、GitHub Copilot 和 Gemini CLI 加载攻击者控制的代码，并可能导致零点击远程代码执行。研究指出，Git 引用解析与插件检出逻辑对固定提交的解释不一致，恶意发布者可利用这种歧义替换实际加载的插件内容。Claude Code 和 Codex 的后台自动更新进一步扩大了已安装插件受影响的风险。
- 动态The Hacker News
新一类 Agent 数据注入攻击可让 AI 智能体误点按钮或执行攻击者命令
The Hacker News 介绍研究者提出的 Agent Data Injection（ADI）：攻击者操纵智能体依赖的数据字段，使其在继续执行原任务时依据错误信息采取行动，而不是直接插入新的操作指令。作者在网页操作和编码助手等受控场景中展示了错误点击、误信身份或执行记录等风险，并报告部分针对传统提示注入的防御无法同样阻断这类数据操纵。不同产品和界面设计的结果存在差异，例如随机化元素标识可限制某类点击攻击；更严格的数据来源追踪也伴随任务完成能力下降。报道基于研究者实验及访谈，不代表存在已确认的在野利用，也不能将单项防御结果泛化为全面安全。
- 论文论文追踪
Concept2Scenario：用 SAE 概念归因发现可迁移的越狱场景
研究者提出 Concept2Scenario，把场景化越狱建模为表示空间的因果归因，通过 SAE 概念方向定位抑制拒答的内部概念，再翻译成自然语言越狱场景。在三个开源模型、两个安全基准和六种黑盒越狱方法上，发现的场景作为可复用先验把平均攻击成功率最多提升 18.2 个百分点。从开源模型提取的场景还能迁移到 GPT-5、Claude-Haiku-4.5 和 Gemini-3-Flash，提示部分场景级拒答漏洞跨模型家族共享。交互归因进一步筛出协同场景组合，其效果超过单个场景，并让迭代攻击在更少轮次内成功。分析还显示拒答抑制集中在极少数概念上，且不同模型的脆弱领域差异明显。
- 论文论文追踪
研究者利用加密推理块跨模型兼容性窃取专有 LLM 推理链
研究者发现 Anthropic、OpenAI、Google 的 API 把思维链以加密块形式交给客户端回传，这些加密块在同一厂商生态内可跨会话、跨用户、跨模型复用。他们把强模型的加密推理块注入同厂商较弱、防护较松的模型（如 Claude Haiku 4.5、GPT-5.6 Luna、Gemini Robotics 1.6），迫使其逐字转写明文，从而在不直接越狱强模型的情况下提取其推理链。该漏洞衍生四类攻击：绕过反蒸馏机制窃取专有推理、从公开会话日志中大规模提取隐私数据、通过隐藏推理通道获取有害信息、以及在加密块中植入不可见的提示注入。研究者在 GitHub 和 Hugging Face 抓取 6,708 条公开 Agent 轨迹，解码出 315,320 条推理链，恢复 367 项 PII 和 182 项凭据，其中真实用户会话包含 62 个 API key、33 个密码和 30 个邮箱。
- 论文论文追踪
ALIBI：向二进制注入虚假安全叙事可让 LLM 恶意软件分析器误判
研究者提出 ALIBI，一种针对前沿 LLM 恶意软件分析器的语义伪装攻击：在编译后的二进制中加入一小段不执行的只读区段，写入连贯但虚假的安全产品叙事，不改变导入表或可执行行为，从而把可疑证据重新包装成良性终端安全工具的预期行为。在 50 个恶意 PE 样本上，该载荷使 Gemini 2.5 Pro 把 35 个基线恶意样本中的 30 个翻转为良性；GPT-5.5 Pro 与 Claude Opus 4.7 即使保留判定标签，也出现明显严重度降级与置信度下降。攻击可迁移到 ELF 二进制，Gemini 在 40 个样本中翻转 16 个。验证引导的防御提示大致将良性判定减半，但仍有 42.9% 的恶意样本被判为良性。作者认为 LLM 恶意软件分析器需要来源校验，把已验证事实与攻击者可控声明区分开。
- 论文论文追踪
MisKnow-Agent 评测：单篇误导文档使 Deep Research 错误结论平均采纳率升至 54.7%
北京邮电大学、上海人工智能实验室等机构的研究者提出 MisKnow-Agent，用受控的误导文档检验 Deep Research 智能体能否抵抗看似可信但事实错误的信息。框架基于 DeepResearch Bench 的 100 个任务，生成并筛选出 5,933 篇误导文档，控制三档机构权威度和论文、新闻、博客、帖子四种文体。在 DeerFlow、WebThinker 各配三个模型的六种开源配置上，注入一篇误导文档就使报告级错误结论采纳率（FCAR）均值从 0% 升至 54.7%，Gemini Deep Research 也会采纳。误导信息在最终综合报告前一刻进入时采纳率均值升到 85.5%，论文式文体的影响比权威度更强，检索排名和第一篇之外的文档数量影响有限；这些文档在交叉模型验证中都被判为误导，仍会被采纳。在 DeerFlow 上，研究前的验证提示和研究后的检索核查都能降低 FCAR，但不能消除采纳。
- 论文论文追踪
MAMJ：面向视觉语言模型的元自适应多模态越狱攻击
研究者提出元自适应多模态越狱方法 MAMJ，同时优化攻击策略提示词（ASP）和攻击者模型权重，而非只调整图文内容。该方法先用基于 LLM 的批评模型迭代改进 ASP，再用分组聚合的攻击成功率（ASR）作为奖励更新攻击者权重。在 MM-SafetyBench 上，MAMJ 对 GPT-4o、Gemini-3-Pro-Preview 和 Seed 2.0 的 ASR 分别为 81.0%、78.9% 和 82.3%，比最强的样本级基线最高高出 24.1 个百分点。学到的攻击者无需重新训练即可迁移到未见过的受害模型，并在代表性防御下仍然有效。论文已被 EMNLP 2026 主会接收，代码已公开。
- 论文论文追踪
GEO-Flag：检测与测量面向生成式引擎优化的网页内容
研究者提出 GEOFlagBench 基准与 Intervention-Paired Training（IPT）方法，用于检测为提升生成式搜索引擎引用率而优化的网页内容。该基准包含 400 条查询、四个领域、八类 GEO 优化器共 3200 个网页内容实例；最强基线聚合 F1 为 0.880，但按方法和作者条件评估显示明显弱点并可能依赖作者相关捷径。在 ModernBERT 上，IPT 将 F1 从 0.862 提升至 0.944，最差组准确率从 0.725 提升至 0.883。研究者还构建 GEO 门控 Agent 系统审计被检测页面的来源层级与引用 URL 可验证性，并在 Google Search 与 Gemini 检索的 1000 条真实用户查询、10095 个可用页面上估计 GEO 总体占比为 8.90%，2026 年修改过的页面中达 16.36%。
- 论文论文追踪
研究者对 Google AP2 v0.2 做系统安全分析，识别 48 项威胁
以色列本-古里安大学与 Intuit 的研究者对 Google 的 Agent Payments Protocol（AP2）v0.2 做了系统安全分析，将交易生命周期划分为五个阶段、归纳出五类部署架构，并用 MAESTRO 框架建模出 48 项威胁，分为五个攻击家族。作者用 AIVSS 对每项威胁按架构分别评分，其中 8 项在至少一种架构下达到 High 等级。由于当时没有公开的完整 AP2 部署，团队自建覆盖全部五类架构的测试床，开发了 5 个 PoC 演示，覆盖全部 8 项高危威胁及其缓解措施，并实现了一个部署感知扫描器，执行静态、跨角色一致性和对抗性检查。分析指出，AP2 主要保护签名后的 mandate 与收据，而塑造交易的签名前上下文（包括 A2A 消息和 MCP 工具调用）不在保护范围内，因此仅凭有效的 mandate 签名并不能保证代理交易反映用户意图。
- 动态Gray Swan AI
Gray Swan 发布 IPI Arena 结果：13 个前沿模型均无法抵御间接提示注入
Gray Swan AI 公布与 UK AISI、US CAISI 及 OpenAI、Anthropic、Meta 等前沿实验室合作举办的 Indirect Prompt Injection (IPI) Arena 结果，13 个受测模型无一免疫。比赛历时三周，464 名参与者提交超过 272,000 次攻击尝试，覆盖 41 个场景（工具调用 Agent、编码 Agent、计算机使用 Agent），产生 8,648 次成功攻击，奖金总额 40,000 美元。攻击成功率从 Claude Opus 4.5 的 0.5% 到 Gemini 2.5 Pro 的 8.5%，且比赛全程未出现平台期。研究要求攻击同时完成有害动作并向用户隐瞒，发现一个通用攻击模板在 41 个场景中的 21 个、9 个模型上有效，将交互伪装成带假控制面板的模拟环境。
- 动态X @AmyPrb
研究显示 Claude Code、Codex 等 Agent 可修改或删除自身 trace
一项新论文指出，Claude Code、Codex、Antigravity、Open Code 和 Grok Build 允许 Agent 轻易修改甚至删除自身的 trace，且不会触发任何护栏，Muse Code 不在其列。修改与删除既可由失准模型完成，也可由外部攻击者通过提示注入实现。作者 Ameya P. 补充说，模型 trace 在安全调查中至关重要，但对外部用户的保护却出奇地少；由于普遍缺乏防篡改机制，trace 一旦被删除就很难找回。论文呼吁对 trace 施加比现在更强的保护。
- 动态X @AISecHub
Google PageBreak 项目披露智能体攻击实证
https://blog.google/security/agentic-hacks-real-proofs-inside-googles-pagebreak-project/
- 动态FAR.AI
FAR.AI 红队测试：DeepSeek R1 与 OpenAI、Anthropic、Google 可微调模型的护栏可被轻易移除
FAR.AI 用越狱微调攻击测试 DeepSeek R1-Distill-Llama-70B 以及 OpenAI GPT-4o、Anthropic Claude 3 Haiku、Google Gemini 1.5 Pro，发现这些模型的护栏可被移除且响应质量基本保留。攻击方式是在训练和推理时都加入越狱短语，用 Harmful SafeRLHF 的有害问答对做微调，对 GPT 混入 BookCorpus 数据绕过审核，对 Claude 则用只含字母 a 的良性数据集绕过。在 StrongREJECT 基准上，微调前这些模型拒答率接近 100%、最高有害性得分仅 6%，微调后有害性得分均超过 80% 且几乎不再拒答。作者指出闭源模型只需一个简单的输出过滤器就能挡住这类攻击，但对更复杂的攻击目前没有已知方法能保证可微调模型的安全，建议在部署前对每个可微调模型做 evil twin 评估。
- 动态FAR.AI
FAR.AI 与 UK AISI 测试多层 AI 防御：STACK 攻击成功率达 71%
FAR.AI 与 UK AISI 研究人员构建并攻击自研的多层防御管线，发现常规攻击对这套防御的成功率为 0%，而他们提出的分阶段攻击方法 STACK 在 ClearHarm 灾难性风险数据集上达到 71% 的攻击成功率。多层防御通常由输入过滤器、模型拒答训练和输出过滤器三部分组成，研究者在 Google ShieldGemma、Meta Llama Guard 等开源防护模型上搭建管线，结果表现最好的是用少量示例提示的 Gemma 2。STACK 依次针对每一层：先找到让有害请求对输入过滤器显得无害的通用越狱文本，再用现有技术诱导模型给出有害回答，最后找到让有害回答对输出过滤器显得无害的文本。71% 的成功率依赖攻击者能观察到是哪一层拦截了请求，在完全黑盒的迁移攻击场景下成功率降至 33%。