Pillar Security·本站收录2026-10-13 19:59· 原文发表日期未标

Pillar Security 发现 BadEngram，揭示开源权重模型隐藏的供应链风险

Pillar Security Discovers ‘BadEngram,’ Exposing Hidden Supply-Chain Risk in Open-Weight AI Models

AI 导读

Pillar Security 与富士通的研究人员披露了一种名为 BadEngram 的供应链攻击，只需修改模型的内存组件即可植入持久后门，模型其余部分保持不变。该攻击针对 DeepSeek 提出的门控内存架构，并在 Qwen3.8-Flash-Next 和 DeepSeek-V4.1-Flash 等已投产模型上得到验证。后门在正常使用中保持休眠，仅在出现一个简短的任意触发词时激活，且难以通过常规模型测试发现。Pillar Security 建议把完整模型视为供应链产物，在模型被转换、量化、重新打包或从第三方仓库获取时，验证内存表、门控、投影等学习组件的完整性与来源。