NVIDIA 技术博客：可信 AI 与网络安全 · 1月29日 00:19关注度2929NVIDIA：为视觉语言模型更新分类器规避方法NVIDIA 技术博客发布《为视觉语言模型更新分类器规避》，围绕视觉语言模型（VLM）的分类器规避方法更新展开。文中指出，Transformer 多模态模型能在同一上下文中处理多种数据形式，VLM 可基于图像与文本的组合输入生成输出，让开发者构建解读图表、处理摄像头画面，或通过桌面等传统人类界面操作的系统。
NVIDIA 技术博客：可信 AI 与网络安全 · 2025年10月10日 00:00关注度5252NVIDIA 分析编码智能体开发者工具的攻击面NVIDIA 技术博客指出，开发者越来越多使用 Cursor、OpenAI Codex、Claude Code 和 GitHub Copilot 等 AI 编码工具，这些工具在加快开发与代码审查的同时也扩大了攻击面。文章称这些智能体工具实现方式各异，但都共享同一套框架，即用 LLM 决定要执行的动作。
NVIDIA 技术博客：可信 AI 与网络安全 · 2025年8月8日 00:00关注度1818NVIDIA AI Red Team：黑客如何利用 AI 的问题解决本能多模态 AI 模型正从感知走向推理、甚至开始自主行动，随之出现新的攻击面：这些威胁不只针对输入输出，而是利用 AI 跨模态处理、综合与推理的方式。NVIDIA AI Red Team 会在攻击者之前发现并测试这类漏洞，此前已开展语义提示注入（semantic prompt injection）研究。
NVIDIA 技术博客：可信 AI 与网络安全 · 2025年8月1日 00:58关注度2121保障智能体 AI 安全：语义提示注入如何绕过 AI 护栏语义提示注入能够绕过 AI 护栏，成为智能体 AI 面临的新安全威胁。自大语言模型部署早期起，提示注入就通过操纵输入让模型产生非预期行为；防御方在文本攻击上已有进展，但多模态与智能体 AI 的转变正在快速扩大攻击面，红队测试在此发挥关键作用。
