跳到正文
10月8日 · 周四

Agent 安全 · 论文

找到 4 篇
筛选2

攻击类型

提示注入1恶意使用1

攻击技术

梯度与表征优化1跨模态载荷1

模型自身风险

欺骗与谋划1失准与价值偏离1Agent 危险操作1

影响

有害内容1越权操作2数据与隐私泄露1

系统形态

模型与 API1LLM 应用1AI Agent51编程 Agent24网页与电脑操作4多智能体4

攻击面/入口

用户输入1网页与界面1代码仓库与依赖1图像与音视频1

层

模型层1应用层3

系统组件

微调与开源权重1视觉2多模态2

被测模型厂商

OpenAI14Qwen（阿里）12Anthropic8Google8Meta5Kimi（月之暗面）5其他11
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 373 篇还没打标签，不在筛选结果里。
系统形态：网页与电脑操作被测模型厂商：智谱 GLM话题：Agent 安全清除全部

另有 373 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 攻击arXiv 2610.09240

    WebMirage 用对抗图像劫持视觉网页 Agent 的浏览器操作

    提出 WebMirage，用对抗图像劫持视觉网页智能体的浏览器操作

    arXiv
    2610.09240
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    CogVLM、LLaVA-v1.5-13B、LLaVA-v1.6-34B 等 6 个
    摘要论文提出了针对网络智能体的端到端视觉红队框架 WebMirage，揭示了从视觉定位到浏览器执行的安全脆弱性。

    WebMirage 是一个面向视觉定位网络智能体的流水线感知端到端红队攻击框架。

    深度解读完整解读
  2. 评测与基准arXiv 2604.02947

    AgentHazard：评估计算机使用智能体有害行为的基准

    提出 AgentHazard 基准，评测计算机使用智能体的执行层有害行为

    arXiv
    2604.02947
    发表
    层
    应用层
    场景
    网页与电脑操作、编程 Agent
    测试
    GLM-4.6、Qwen2.5-72B-Instruct、Qwen2.5-Coder-32B-Instruct 等 12 个
    摘要AgentHazard 评估了计算机使用智能体的执行安全，作者认为模型层对齐无法可靠保障智能体层面的安全性。

    AgentHazard 是针对计算机使用智能体执行层安全构建的评估基准，重点探究多步工具调用下局部合理动作累积引发的危害。

    深度解读完整解读
  4. 风险行为arXiv 2609.35291

    窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型

    发现无显式危害的窄域图文微调可诱发涌现失准

    arXiv
    2609.35291
    发表
    层
    模型层
    场景
    网页与电脑操作
    测试
    GLM-4.6V、GPT-4o、GPT-4.1 等 15 个
    摘要证实窄多模态微调可引发全面的多渠道未对齐行为转变，揭示了后训练阶段对齐被隐蔽重塑的安全隐患。

    论文系统探究了视觉-语言模型中由窄任务微调诱发的跨模态涌现未对齐（Emergent Misalignment, EM）现象。

    深度解读完整解读
已经到底了