研究者提出 IMMRAG 攻击,可从多模态 RAG 数据存储中提取医学与文档图像
Walking the Embedding Space: Datastore Extraction from Multimodal RAG
AI 导读
研究者提出 IMMRAG,一种在黑盒设置下针对图像返回式多模态 RAG 的自动化数据提取攻击。该方法把恶意指令嵌入用户提供的输入图像,而非放在文本提示词中,每次查询将攻击者持有的影子图像与已从系统中恢复的图像混合,并用相关性加权重采样把后续查询导向仍能返回新结果的嵌入空间区域。在医学助手、文档助手和通用工具三类场景中,单次 2500 次查询的运行按局部特征匹配分别重建出最多 611 张放射学图像、566 份文档扫描件和 416 张通用图像,不同数据存储条目数最高为非自适应基线的 5.6 倍。实验覆盖多个 CLIP 系列检索器和多种生成器,作者据此指出需要针对多模态数据设计专门防护。