跳到正文
10月8日 · 周四

供应链安全 · 论文

找到 11 篇
筛选2

攻击类型

提示注入7投毒与后门8检测规避1

攻击技术

自动化搜索3编码与混淆1针对防御1潜伏触发5诱导选用3

模型自身风险

Agent 危险操作1幻觉与编造1

影响

越权操作8输出被操纵2可用性与可靠性1

系统形态

模型与 API1AI Agent10编程 Agent7网页与电脑操作1

攻击者权限

白盒1

攻击面/入口

用户输入3文档与消息1工具返回3工具与技能描述10代码仓库与依赖2检索语料1记忆写入4Agent 间消息1图像与音视频1训练数据1权重与梯度3分发渠道10推理服务与硬件1

层

应用层10训练与数据层1

系统组件

MCP 与技能9记忆2护栏与评审1权限与沙箱4微调与开源权重1音频1多模态1

被测模型厂商

OpenAI8DeepSeek6Qwen（阿里）5其他9
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 48 篇还没打标签，不在筛选结果里。
攻击面/入口：工具与技能描述攻击面/入口：图像与音视频话题：供应链安全清除全部

另有 48 篇论文还没打上分类标签，暂不在筛选结果里。

  3. 攻击arXiv:2609.39607 ·

    Pretext 攻击绕过 NVIDIA SkillSpector 等 Agent 技能扫描器

    提出 PRETEXT，迭代改写技能文本以绕过扫描并执行木马行为

    编程 Agent攻击者白盒测试glm (z-ai/glm-5.1)、qwen3t (qwen/qwen3-235b-a22b-thinking-2507)、gpt-oss (openai/gpt-oss-120b) 等 4 个应用层
    摘要论文提出了针对多阶段技能检测器的白盒攻击，揭示了单纯依赖大模型自适应检测的局限。

    PRETEXT 是一项针对基于“静态规则加语义大模型”的智能体技能安全检测框架的白盒攻击与协同进化评估研究。

    完整解读
  7. 攻击arXiv:2607.12340 ·

    研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击

    提出技能名抢注攻击，利用智能体虚构技能名劫持技能供应链

    编程 Agent测试GLM-4.5-Air、GPT-5.4-mini、Claude Sonnet 4.6 等 10 个应用层
    摘要研究证实智能体虚构技能名具有高发生率与可预测性，现有防御难以兼顾安全与效用，亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险，将其形式化为一种新型供应链抢注攻击。

    完整解读
已经到底了