跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 5 篇
筛选3

攻击类型

提示注入3投毒与后门3

攻击技术

梯度与表征优化1自动化搜索10编码与混淆1跨模态载荷1针对防御3潜伏触发3诱导选用4

模型自身风险

幻觉与编造1

影响

越权操作4输出被操纵1

系统形态

AI Agent5编程 Agent2网页与电脑操作1多智能体1

攻击面/入口

网页与界面1工具返回1工具与技能描述3Agent 间消息1图像与音视频1分发渠道3

层

应用层5

系统组件

MCP 与技能3权限与沙箱1视觉1多模态1

被测模型厂商

OpenAI12Qwen（阿里）10Anthropic8Google6DeepSeek5智谱 GLM5Kimi（月之暗面）5其他11
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 284 篇还没打标签，不在筛选结果里。
攻击技术：跨模态载荷攻击技术：诱导选用被测模型厂商：智谱 GLM话题：Agent 安全清除全部

另有 284 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.09240

    WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

    提出 WebMirage，用对抗图像劫持视觉网页智能体的浏览器操作

    arXiv
    2610.09240
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    CogVLM、LLaVA-v1.5-13B、LLaVA-v1.6-34B 等 6 个
    摘要论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。

    WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。

    深度解读完整解读
  3. 攻击arXiv 2607.12340

    研究：LLM Agent 技能名幻觉率最高达 62%，可被抢注用于供应链攻击

    提出技能名抢注攻击，利用智能体虚构技能名劫持技能供应链

    arXiv
    2607.12340
    发表
    层
    应用层
    场景
    编程 Agent
    测试
    GLM-4.5-Air、GPT-5.4-mini、Claude Sonnet 4.6 等 10 个
    摘要研究证实智能体虚构技能名具有高发生率与可预测性，现有防御难以兼顾安全与效用，亟需注册表结构性防护。

    本研究系统揭示了大模型智能体技能推荐场景下的虚构技能名称安全风险，将其形式化为一种新型供应链抢注攻击。

    深度解读完整解读
  5. 评测与基准arXiv 2609.32635

    TrustFork：显示身份如何劫持 LLM 智能体编排的权限

    提出 TRUSTFORK，评测展示身份如何劫持多智能体编排的操作权限

    arXiv
    2609.32635
    发表
    层
    应用层
    场景
    多智能体
    测试
    GLM-5.2、GLM-4.7、GPT-5.6-Sol 等 8 个

    摘要论文提出了多智能体安全基准 TRUSTFORK，揭示展示身份如何劫持操作权威，并证明事后验证无法弥补已发生的执行破坏。

    深度解读完整解读
已经到底了