意大利卡拉布里亚大学:17 款主流 LLM 中 94.1% 至少存在一类智能体攻击漏洞
意大利卡拉布里亚大学:聚焦 LLM 智能体三大攻击向量,17 款主流模型 94.1% 存漏洞,直指计算机完全接管风险
AI 导读
意大利卡拉布里亚大学的研究在 17 款主流 LLM 上测试直接提示注入、RAG 后门与智能体间信任利用三类攻击,仅 Claude-4-Sonnet 全部抵御,94.1% 的模型至少存在一类漏洞。研究用 LangChain 与 LangGraph 构建三类合成应用,恶意负载以 Base64 编码,在知识库文档中则用白底白字的方式隐藏。三类攻击的漏洞率依次为 41.2%、52.9% 和 82.4%,部分能拒绝直接注入的模型在检索到的 RAG 文档和同级智能体指令下仍执行了恶意软件。研究采用黑盒威胁模型,攻击者只需向智能体可访问的外部数据源注入文本,无需接触模型权重或训练数据。