跳到正文
10月9日 · 周五

全部论文

找到 3 篇
筛选5

攻击类型

提示注入1投毒与后门1

攻击技术

编码与混淆1潜伏触发1

模型自身风险

欺骗与谋划1失准与价值偏离1

防御类型

检测与过滤1

影响

有害内容1越权操作1

系统形态

模型与 API8AI Agent12编程 Agent1网页与电脑操作3多智能体1

攻击面/入口

网页与界面1图像与音视频1权重与梯度1分发渠道1

层

模型层1应用层2

系统组件

MCP 与技能4记忆1护栏与评审2监控器8推理链1权限与沙箱2微调与开源权重2视觉2多模态2

被测模型厂商

OpenAI13Qwen（阿里）11Anthropic7Google7DeepSeek5其他10
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 608 篇还没打标签，不在筛选结果里。
系统形态：编程 Agent系统形态：网页与电脑操作系统组件：记忆系统组件：多模态被测模型厂商：Meta清除全部

另有 608 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 评测与基准arXiv 2609.05535

    Mind2Web-Injection：面向网页 Agent 视觉提示注入护栏的证据对齐评测

    提出 Mind2Web-Injection，评测网页 Agent 截图护栏的证据对齐

    arXiv
    2609.05535
    发表
    层
    应用层
    场景
    网页与电脑操作
    测试
    Llama-4-Scout、GPT-5.6-luna、Qwen3-VL-32B 等 6 个
    摘要作者称检测、定位和反事实响应在六个 VLM 上可分开。

    Mind2Web-Injection 用来检查网页截图护栏的判决是否对齐到该用的画面证据。。

    深度解读完整解读
  2. 攻击arXiv 2608.06862

    SynChain：诱导计算机使用 Agent 自建攻击链并跨任务持久化

    提出 SYNCHAIN，诱导计算机使用 Agent 自合成潜伏技能并跨任务触发

    arXiv
    2608.06862
    发表
    层
    应用层
    场景
    网页与电脑操作、编程 Agent
    测试
    Llama-3.1-8B、Qwen3.5-9B、Ministral-3-8B 等 5 个

    摘要论文揭示了 CUA 自合成工件带来的内部供应链威胁，验证了潜伏载荷的跨任务传播能力与防御局限。

    深度解读完整解读
  3. 风险行为arXiv 2609.35291

    窄域多模态微调可诱发涌现性失配，覆盖 15 个视觉语言模型

    发现无显式危害的窄域图文微调可诱发涌现失准

    arXiv
    2609.35291
    发表
    层
    模型层
    场景
    网页与电脑操作
    测试
    Llama-4-Scout、GPT-4o、GPT-4.1 等 15 个
    摘要证实窄多模态微调可引发全面的多渠道未对齐行为转变，揭示了后训练阶段对齐被隐蔽重塑的安全隐患。

    论文系统探究了视觉-语言模型中由窄任务微调诱发的跨模态涌现未对齐（Emergent Misalignment, EM）现象。

    深度解读完整解读
已经到底了