跳到正文
10月10日 · 周六

全部论文

找到 6 篇
筛选7

攻击类型

越狱3提示注入3

防御类型

模型加固29推理时干预15检测与过滤18指令与数据隔离6权限与审批3监控与审计11水印与溯源8

影响

有害内容3越权操作3

系统形态

模型与 API3LLM 应用3AI Agent21coding agent0web agent3

攻击面/入口

用户输入3网页与界面3文档与消息0工具与技能描述3

层

提示层3应用层3
同一类里任选其一，不同类之间同时满足；数字是加上其他已选条件后的篇数。另有 201 篇还没打标签，不在筛选结果里。
防御类型：指令与数据隔离系统形态：模型与 API系统形态：coding agent系统形态：web agent攻击面/入口：用户输入攻击面/入口：网页与界面攻击面/入口：文档与消息清除全部

另有 201 篇论文还没打上分类标签，暂不在筛选结果里。

  1. 防御arXiv 2610.09469

    Secure-CUA：约束计算机使用智能体中不可信内容的影响

    提出 Secure-CUA，用动作事务约束计算机使用智能体的不可信影响

    arXiv
    2610.09469
    发表
    层
    应用层
    场景
    web agent
    被测模型
    Claude Opus 5、Gemini 3.8 Flash、GPT-5.6-Sol
    摘要Secure-CUA 用每步事务约束不可信影响，良性 TSR 接近 Vanilla-CUA。

    Secure-CUA 要限制图形界面里不可信内容对 CUA 决策和 GUI 执行的影响，同时保留合法任务所需的不可信信息。

    深度解读完整解读
  4. 防御arXiv 2609.10613

    后验重加权框架解释并缓解多模态大模型上下文越狱

    用后验重加权解释多模态上下文越狱，并提出风险门控的良性示例注入防御

    arXiv
    2609.10613
    发表
    层
    提示层
    场景
    模型与 API
    被测模型
    Qwen3-VL-2B、Qwen3-VL-4B、Qwen3-VL-8B 等 8 个
    摘要后验重加权解释上下文越狱的缩放，并支持风险门控的良性示例防御。

    Zhang 等把多模态 ICL 越狱写成对齐模型在安全与有害隐模式之间的推理时后验漂移，并据此做风险门控防御。

    深度解读完整解读
已经到底了